SheepNav
新上线8天前0 投票

OpenAI 发布数百个数学证明,却未达到学界制定的标准

OpenAI 本周发布了数百个据称针对世界最难数学问题的解答,并声称已咨询了一支由顶尖数学家组成的顾问团队,以避免重蹈此前模型解决长期难题时引发的争议。然而,这些解答并未完全达到该顾问团队制定的标准——尤其在数学家们强调的「人类理解数学结果」这一核心要求上,OpenAI 的表现明显不足。

事件背景

OpenAI 本周发布了 719 篇声称解决高难度数学问题的论文。前沿实验室表示,他们已经咨询了一个由精英数学家组成的顾问小组,目的是避免此前模型解决某个长期未解难题时所引发的争议。

这个顾问小组名为 数学与人工智能顾问组(AGMAI),由普林斯顿大学高等研究院主办,成员包括来自全球各地机构的九位知名研究员。该组织于 9 月底发布了针对前沿实验室解决数学问题的指导方针。

哪些标准未被满足

AGMAI 在针对最新一批证明的声明中表示,最终应由数学界来评估其建议被成功遵循的程度。然而,该组织的第一项要求就是:停止在专有模型上测试高等数学问题。而 OpenAI 的发布内容明确表示,它正在使用数学中的开放研究问题来评估其专有模型。

TechCrunch 曾向该顾问组询问对 OpenAI 最新证明发布的更详细评估,但未获回应。

OpenAI 显然遵循了部分原则,包括尽快发布结果,以及包含模型如何得出结论的信息。但并非所有方面都达标:

  • 在 719 篇手稿中,仅有 10 篇包含了模型思维链的发布。
  • 对于人们无法理解的论文,数学家们建议应将证明形式化——但 OpenAI 发布的证明中,只有 42% 未经过这一过程。

核心矛盾:人类理解与责任归属

目前仍不清楚 OpenAI 是否按照 AGMAI 的原则,承担起确保人类理解其证明的责任。AGMAI 建议,OpenAI 应资助人类数学家的工作,这些数学家对于让实验室的解决方案在现实中具有意义是必需的。

问题正在被 AI 提示者自主解决,而这些人一旦初始目标达成,就对更广泛的领域本身毫无兴趣,也不理解 AI 的输出内容。

一个值得关注的案例

此前一篇新论文凸显了 OpenAI 模型表面上解决的一个百万美元级问题,其自然语言表述与形式化表达的解决方案之间存在差距。这进一步加剧了外界的担忧。

小结

OpenAI 在数学证明发布上的透明度与责任承担仍存疑。尽管它遵循了部分 AGMAI 原则,但在停止在专有模型上测试、形式化证明以及资助人类数学家以确保理解等关键要求上,均未达到标准。数学界是否会接受这些证明,仍有待观察。

延伸阅读

  1. Anthropic无法可靠控制AI智能体,切断内部评估的实时互联网访问
  2. Prime Agent 用 Rust 重写:2000 个 AI 智能体协作完成自我重写
  3. 乌克兰无人机袭击俄罗斯AI数据中心,Yandex超级计算机受损
查看原文