重新定义AI测试标准!GPT-5等尖端模型竟得零分,高层次思维能力究竟如何?
发布时间:2025-08-15 16:59:54 | 责任编辑:张毅 | 浏览量:6 次
近期,一个新的 AI 评测基准 FormulaOne 引发了广泛关注。这个基准由专注于超智能与高级 AI 系统的研究机构 AAI 推出,挑战了一众顶尖的 AI 模型,如 GPT-5、Grok4和 o3Pro 等,结果却让人瞠目结舌:这些模型在测试中全都得了零分!
FormulaOne 基准包含了220个新颖的图结构动态规划问题,题目难度分为三类,从中等难度到科研级别,其中包括拓扑、几何和组合问题等复杂领域。尽管问题的表述看似简单,但实际上,解决这些问题所需的推理与逻辑推演难度极高,几乎可以称得上是博士级的挑战。
这一系列问题依赖于 Courcelle 提出的一个算法元定理,该定理强调,对于每个类似树的图,任何可用逻辑定义的问题都可以通过动态规划算法来解决。这就需要使用一种被称为树分解的结构,将图的顶点组织成一系列重叠的集合,并以树状结构排列,随后通过动态规划逐步解决。
在浅层难度的问题上,这些前沿 AI 模型的表现尚可,达到了50% 到70% 的成功率,说明它们对这些类型的问题有一定的认识。然而,在深层和更深层难度的题目中,情况就不容乐观了。深层难度的测试中,顶尖模型的成功率大幅下降,Grok4、Gemini-Pro 等模型最多只能解出1% 的题目,而 GPT-5Pro 的表现稍好,仅解出4个问题。最深层的难度测试中,所有模型的成功率则是零,集体崩溃。
这项评测结果不仅引发了科研界的广泛讨论,还让人们对 AI 模型的真实能力产生了质疑,许多人甚至建议让人类博士生也来参与评估。随着 AI 技术的快速发展,我们不得不思考:这些模型究竟距离真正的 “博士级” 推理能力还有多远?
模型地址:https://huggingface.co/spaces/double-ai/FormulaOne-Leaderboard
划重点:
✅ GPT-5等 AI 模型在新评测基准 FormulaOne 中全都得了零分,令人震惊!
✅ FormulaOne 包含220个高难度动态规划问题,考验 AI 模型的推理能力。
✅ 大部分模型在浅层问题上表现尚可,但在深层和更深层问题上均遭遇失败,揭示了 AI 的局限性。
近期,由研究机构 AAI 推出的全新 AI 评测基准 FormulaOne,对当前最前沿的 AI 模型提出了前所未有的挑战,结果令人震惊:GPT-5、o3 Pro、Gemini 2.5 Pro、Grok 4 等模型在该基准测试中 集体得零分。
FormulaOne 基准测试:博士级推理的试金石
FormulaOne 基准测试包含 220 个新颖的图结构动态规划问题,题目难度从中等跨越至科研级别,涵盖了拓扑、几何、组合问题等高难度领域。这些问题虽然表述看似自然,但其解决方案却极为复杂,需要极高的逻辑推理与动态规划能力,堪称博士级挑战。
具体而言,这些问题依赖于 Courcelle 提出的算法元定理,要求模型使用一种称为 树分解(tree decomposition) 的结构,将图的顶点组织成一系列重叠的集合(即“袋”),并以树状结构排列。随后,模型需通过动态规划逐步解决问题,这一过程涉及设计复杂的“状态”,并定义状态的转换规则。
AI 模型的实际表现:从“尚可”到“集体崩溃”
-
浅层难度问题:GPT-5 等模型表现尚可,成功率约为 50%-70%,表明它们对这类问题有一定理解。
-
深层难度问题:模型表现急剧下降,GPT-5 Pro 仅解决了 4% 的问题,Grok 4、Gemini 2.5 Pro 等模型甚至只能解决 1%。
-
更深层难度问题:所有模型 集体崩溃,得分为 零。
这一结果引发了科研界的广泛讨论,甚至有网友建议让人类博士生也参与评估,以对比 AI 与人类在博士级推理能力上的真实差距。
反思:博士级推理能力究竟几何?
尽管此前谷歌、OpenAI 的模型在数学奥林匹克(IMO)水平测试中达到了金牌水准,令人误以为 LLM 已具备博士级科研推理能力,但 FormulaOne 基准测试的结果表明,现实可能并不如想象中乐观。
这一评测结果也引发了业界对 AI 模型真实能力的深刻反思:当前前沿 AI 模型在特定领域(如数学竞赛、编程任务)表现突出,但在面对真正复杂、新颖的科研级问题时,仍存在明显局限。
综上所述,尽管 AI 技术发展迅速,但距离真正的“博士级”推理能力,仍有相当长的路要走。
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。