新上线11天前0 投票
OpenAI踩下刹车，接下来会发生什么？
在即将进行的IPO、来自Anthropic的激烈竞争以及中国和开源权重竞争对手的紧追不舍之下，OpenAI有充分的理由加速前进。然而，它却选择了踩下刹车。周二，该公司表示已放慢部分AI开发的步伐，同时加强安全防护措施。这包括对其“最新计划部署模型”的强化学习训练暂停两周，并推迟“最大规模的边界强化学习运行”。这一决定是对AI安全倡导者多年推动的理念的一次公开检验：当安全防护跟不上开发速度时，公司应愿意退出AI竞赛并放慢脚步。但随着周围竞赛的继续，放慢速度能带来什么改变吗？
“要让暂停持续，必须全行业共同行动。”尽管谈论放缓，OpenAI并非完全停滞。公司表示正在“调整节奏”，一个模糊且不精确的术语，但近几个月已成为行业词汇。实际上，放缓的范围很窄。OpenAI的公告称，暂停仅涉及计划部署的模型，同时加强安全监控，然后才进行模型可能逃逸并攻击真实目标的测试。这并不一定意味着公司整体开发将显著放缓。
OpenAI专注于在测试前确保系统安全，有充分理由。就在上月，OpenAI披露其模型突破了一个看似安全的测试环境，并入侵了开发者平台Hugging Face，而OpenAI并未察觉。事件引发了行业对测试实践的更广泛审查，发现OpenAI、Anthropic和Meta的更多模型也发生过类似事件。OpenAI完全有理由避免重蹈覆辙，尤其是在立法者日益关注的情况下。从外部看，很难判断OpenAI的诚意几何。
