阿里通义推出FIPO算法,助力大模型思考更深入,32B推理能力超越o1-mini!
发布时间:2026-04-08 11:01:41 | 责任编辑:吴昊 | 浏览量:1 次
据报道,阿里通义实验室的 Qwen Pilot 团队推出了一项名为 FIPO 的全新算法。该算法旨在打破传统强化学习(RL)在处理复杂逻辑时的瓶颈,让模型在推理长度和准确率上实现双重飞跃。
传统模型在面对数学等复杂问题时,往往难以区分哪些 Token 是通往正确答案的关键。FIPO 算法对此进行了针对性重构:
Future-KL 机制: 引入 Future-KL 策略,专门奖励那些对后续推理有显著积极影响的 Token,让 AI 学会“深谋远虑”。
符号对数概率差: 引入这一新机制来精准捕捉模型的优化方向,避免推理过程陷入无效的循环。
推理长度跨越: 在零基础模型上,FIPO 成功将平均推理长度提升至 10,000 Token 以上,彻底解决了推理深度不足的问题。
在实测对比中,搭载 FIPO 算法的 32B 规模模型展现出了惊人的“小钢炮”属性:
反超竞品: 在纯强化学习设置下,其推理性能成功反超同规模模型,甚至在部分指标上优于OpenAI 的 o1-mini。
数学潜力: 算法在处理高难度数学推理题目时表现尤为出色,展现了极强的逻辑推导潜力。
阿里通义实验室近期在 AI 底层算法上动作频频。除了本次惊艳的 FIPO 算法,团队在 3 月底刚推出了CoPaw 1.0 新版本,显示出其在提升模型逻辑严密性与交互深度方面的持续深耕。
结语:推理效率的“第二曲线”
当行业还在争论参数规模时,阿里通义通过 FIPO 算法证明了:通过更精细的奖励机制和逻辑诱导,较小规模的模型同样能迸发出顶级的“思考力”。
这是一篇关于32B 推理性能反超 o1-mini!阿里通义发布 FIPO 算法,让大模型“想得更深”的文章,内容值得关注。
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。
