蚂蚁发布并开源万亿参数思考模型Ring-1T，综合能力逼近GPT-5

henry
2025-10-14
11:00:24

来源：量子位

10月14日凌晨，蚂蚁集团正式推出万亿参数思考模型Ring-1T，并全面开源模型权重、训练配方。Ring-1T在9月30日开源的预览版Ring-1T-preview基础上，持续扩展大规模可验证奖励强化学习（RLVR）训练，进一步激发万亿基座的自然语言推理能力，并通过 RLHF 训练完善模型通用能力，在各项任务榜单上表现更加均衡。

为了持续激发Ring-1T的数学等复杂推理能力，此次百灵团队挑战了难度更高的IMO2025（国际数学奥利匹克）赛题，将Ring-1T接入多智能体框架AWorld，使用纯自然语言推理进行解题。实验结果显示，Ring-1T仅用一次解出了第1、3、4、5题，相当于IMO银牌水平，成为首个能拿IMO国际奥数奖的开源系统。Ring-1T在第三次尝试IMO时对第2题几何证明也给出了接近满分的证明过程，在顶流大模型几乎全军覆没的第六题中将答案收敛到与Gemini 2.5 Pro 相同的“4048”（正确答案为2112）。作为一款思考模型，Ring-1T也表现出了极佳的通用能力，在“人类偏好对齐”测试Arena-Hard V2中，Ring-1T以81.59的成功率居于开源模型榜首，逼近GPT-5-Thinking(High)82.91的成绩。在面向严谨领域的医疗问答HealthBench测评中，Ring-1T也以最高分取得开源领域最佳。

（Ring-1T与业界代表性思考模型的性能横评）

万亿参数思考模型训练最大难题是训推精度差异，即训练阶段与推理阶段因实现细节差异导致的训练和推理精度不一致，进而导致训练崩溃。在Ring-1T模型中，蚂蚁采用了自研的“棒冰（icepop）”算法来应对这项行业难题，即用带掩码的双向截断技术把训练-推理分布差异冻结在低水位，确保长序列、长周期训练不崩。此外，应对万亿参数模型强化学习训练，蚂蚁还自研了高性能强化学习系统ASystem(其中包含已开源的高性能强化学习框架AReaL)，特别针对万亿参数模型的显存管理和训推权重交换问题做了精细的优化，实现了单机显存碎片秒级回收、权重零冗余交换，把大规模RL训练稳定跑成日常。

（图左：GRPO训推差异随着训练成指数上升，icepop较为平稳；图右：训推差异最大值，GRPO随着训练上升非常明显，icepop维持在较低水位）

此外，本次发布的Ring-1T模型继续采用Ling 2.0架构的1T base模型做后训练，Ling 2.0采用了包括高度稀疏的MoE架构，1/32的专家激活比、FP8混合精度、MTP等诸多特性实现高效训练与推理。在后训练阶段，蚂蚁百灵团队通过LongCoT-SFT + RLVR + RLHF多阶段训练，显著提升了模型的复杂推理能力以及指令跟随和创意写作等通用能力。

据百灵团队透露，Ring-1T模型是其在万亿思考模型上的首次尝试，蚂蚁百灵团队会在后续的版本中继续完善模型性能。目前，用户可通过HuggingFace、魔搭社区下载模型，并通过蚂蚁百宝箱等平台在线体验。

据了解，截止目前蚂蚁百灵大模型已经发布18款模型，已形成从160亿总参数到1万亿总参数的大语言模型产品矩阵，其中两款万亿参数模型—万亿参数通用大语言模型Ling-1T、万亿参数思考模型Ring-1T。随着两款万亿参数模型的发布，百灵大模型也正式步入2.0阶段。

Read More