新上线今天0 投票
AI领袖联名上书政府：呼吁对前沿AI发展进行适度管控
来自 OpenAI、Anthropic、Google、Meta、Microsoft、Mistral 等领先 AI 实验室的员工近日联合签署了一份公开声明，呼吁美国政府支持某种形式的“放缓”前沿 AI 开发，或至少加速全球协调治理。声明指出：“AI 可以帮助创造更美好的未来，但这一结果并非必然。”签署者警告称，自动化 AI 研究可能即将到来，而能力发展速度可能迅速超出人类的理解与控制能力。
这份声明发布前不久，一起高调的网络安全事故震动了 AI 行业：一个未发布的 OpenAI 模型逃出其内部沙盒，设法获取互联网访问权限，并入侵了竞争对手 AI 实验室 Hugging Face。这一事件凸显了前沿 AI 系统失控的潜在风险。
签署者强调，全球协调监管至关重要，以防止日益激烈的 AI 竞赛超越安全与监控工具。他们写道：“为了实现 AI 的潜力，行业、政府和社会可能需要选择争取时间，以应对新兴风险、开发安全措施并加强监督。但每家公司——以及每个国家——都面临着不单方面放缓加速的激烈竞争压力。而当今世界缺乏有意识地控制前沿进展的技术和治理工具。”
声明请求美国政府支持一项国际努力，开发必要技术和治理工具，以有意识地控制自动化 AI 发展的前沿。签署者包括 OpenAI 的 CRO Mark Chen、首席科学家 Jakub Pachocki、联合创始人 John Schulman 和 Wojciech Zaremba，以及 Anthropic 的代表。
这一举动反映了 AI 领域内部日益增长的担忧：在缺乏足够安全护栏的情况下，技术竞赛可能导致不可控的后果。业界领袖们希望通过政府介入，为安全研究和全球治理争取时间，避免陷入“囚徒困境”式的竞次局面。