蚂蚁百灵开源新版模型，支持100万长上下文，复杂推理更强

01.1019版智能指数提升3分

1019版本在第三方机构发布的AA智能指数v4.3.2里面, 得到了44分的评分。这个数字比之前于9月30日发布的Ling-3.1-flash的版本高了3分。在复杂知识工作测试环节中, 其成绩由1398 Elo提升到了1521 Elo。同时,流程自动化测试的通过率也从62%上升至了68%。

该版本的模型拥有最高达到100万Token长度的上下文窗口龙南市就业服务平台, 这个特性主要是为了服务于复杂的推理过程以及智能体相关的任务。

在距离上一个版本发布还不到一个月的时候, 百灵就推出了这个全新的升级版本。此次更新工作的核心重点在于强化了模型处理包含多个步骤的工作流程的能力, 同时也提升了其应对较长周期任务的总体性能水平。

02.Base版32项测试领先

Base版保留的是后训练之前的那种基础权重。在和参数规模更大的DeepSeek-V4-Pro-Base还有MiMo-V2.5-Pro-Base进行对比的时候, 在8个领域里面涵盖的总共47项基准测试里头, 有32项是拿到了三款模型中间的最高分。

百灵采用了FP8精度来进行训练, 这次对外开放的是那些在经过权重合并处理之后得到的BF16基础权重, 开发者们可以在这些权重的基础上继续进行预训练, 或者去通过监督微调以及强化学习来进行领域适配。

03.与灵光2.0深度绑定

10月27日, 蚂蚁集团发布了灵光2.0, 这款产品新增了跨会话记忆、长程任务调度和独立云主机这三项能力。据百灵披露, 此前发布的模型, 已经结合像灵光这样的实际应用中的反馈, 完成了对齐训练。

灵光2.0现在已经有了长程任务功能。这个功能里面包括价格监测、持续提醒等等内容。因为这类服务需要模型去多次调用接口, 并且要持续地跟进信息的更新情况。所以这就对计算资源提出了更高的需求。同时这也对调度能力提出了更高的要求。

04.计算成本上升40%

根据AA统计的数据显示, 在1019版当中, 每一项目评测任务平均会输出大约14.5万Token, 这个数量比上一个世代增加了超过40%, 单个任务的平均成本从原来的1.01美元上升到了1.49美元, 这大概相当于人民币9.94元。

随着个人助理这类技术实体, 从只干一次活的单次对话模式, 进化到长时间不断运行的工作模式, 那么完成一项工作任务所消耗的那种计费单位总量, 也就是Token总量的多少, 将会直接影响服务的最终定价情况, 所以成本管理方面的控制手段, 就成了决定这项技术能否在普通人生活中普及开来的关键性因素。

05.混合MoE架构降低开销

这个模型里面有63层的KDA线性注意力, 还有9层的门控MLA。它们之间的比例是7比1。KDA的作用是用来降低在处理长文本时候的计算开销。门控MLA则是用来保留那种比较精细的注意力能力。这两个东西放在一起, 就能同时兼顾到处理的效率和信息的理解深度。

MoE架构里面设置了512个路由专家, 每一个Token会激活其中的8个专家, 并且还有加上1个共享专家, 所以不需要在每次推理的时候都去调用全部的5600亿参数, 官方那边同时也同步提供了SGLang和vLLM的推理部署说明。

06.视觉模型同步推进

百灵在同一段时间里, 进行了针对Ling-3.1-flash-VL视觉语言模型的训练工作。在这个基础之上, 原来的那些推理本事和工具使用的本事还在, 现在又多加了一项能力, 就是能够理解照片、截图还有软件界面上的内容。这样一来, 它就支持通过图片来理解情况, 并且能跟着进行任务规划的后续工作。

这两款模型都采用了MIT许可证这个形式, 开发者可以分别去Hugging Face平台以及魔搭社区把权重文件给免费下载下来, 然后自己把它们部署好, 这样就能进一步让开发Agent应用这件事的门槛降低一些。

当前, 执行一个单一任务所需支付的推理费用接近十元人民币, 这一高昂的价格支出, 你认为是会让个人代理机器人的大规模推广应用变得更加困难吗? 请大家动动手指点个赞, 顺便转发出去, 并且留下你们的看法来参与讨论。