教皇的AI顾问警告：大型实验室存在“卡特尔”行为，超级智能恐慌转移了公众辩论焦点
教皇方济各的AI顾问保罗·贝纳anti发出警告：围绕超级智能可能灭绝人类的恐慌，正被大型AI实验室利用，以回避公众对技术治理的民主辩论。他直言这种由少数公司主导规则制定的行为是“卡特尔”。
恐慌叙事背后的利益动机
近日，来自全球最大人工智能实验室的研究人员不断发出警告，称AI发展速度过快，甚至可能“灭绝人类”。这些警告基于一个前提：在激烈竞争和中美对抗的推动下，实验室正冲向超级智能模型，其能力将远超人类。
但天主教神父、教皇AI顾问保罗·贝纳anti（Paolo Benanti）对《连线》杂志表示，对超级智能的过度炒作分散了公众对真正重要问题的关注——如何约束构建这些技术的公司。
“伦理不能只属于公司董事会。它必须在公共广场的辩论中平衡和调和，”贝纳anti说，“我们需要民主监管。”
大型实验室的“自利叙事”
在安全警告发布后，Anthropic CEO 达里奥·阿莫代伊（Dario Amodei）发表文章，呼吁新AI模型在发布前必须接受第三方强制评估，并打击“蒸馏”行为——即竞争对手利用专有模型的输出训练自己的AI。其他人则主张全面禁止“递归自我改进”，即AI利用自身高级编码能力帮助开发下一代模型。
贝纳anti对限制AI开发方法不太感兴趣，他担心这会扼杀创新，更关注建立标准以确保模型不会脱离人类控制。但他强调，无论标准形式如何，都不应由实验室自己设计。
“前沿实验室的叙事是自利的，是为了获得或维持市场地位，”贝纳anti说。当一小群公司主导行业规则时，“这有一个非常清晰的名字：卡特尔。”
超级智能宣言的可信度存疑
贝纳anti指出，由于经济、政治和个人激励相互交织，很难判断关于最新和未来AI模型能力的宏大宣言有多可信。尽管OpenAI和Anthropic都支持放缓开发的呼吁，但它们也在准备上市，背后涉及数十亿美元的利益。
贝纳anti的批评直指当前AI治理辩论的核心矛盾：大型实验室既是规则制定者，又是利益相关方。他呼吁将伦理讨论从董事会会议室转移到公共领域，通过民主监管确保AI发展符合社会整体利益，而非少数公司的商业目标。
这场关于AI治理的辩论，本质上是对技术权力分配的争夺。在超级智能的喧嚣背后，一个更紧迫的问题浮现：谁有权决定AI的未来？
