精选今天0 投票
The Download：Meta AI客服漏洞揭示AI安全新挑战，聊天机器人正在削弱我们的大脑
从 Mythos 到客服机器人：AI 安全的另一面
本周一，有报道称攻击者利用 Meta 的 AI 客服代理窃取了 Instagram 账户。手法相当简单：他们让 AI 代理将账户链接到他们控制的电子邮件地址，而 AI 竟然照做了。这一事件引发了广泛关注，因为它揭示了 AI 安全中一个常被忽视的维度：不是只有超级智能的 AI 系统才构成威胁，简单、低级的漏洞同样可以造成巨大破坏。
此前，Anthropic 宣布其 Mythos 模型因“过于擅长黑客攻击”而无法公开发布，业界对 AI 安全的担忧主要集中在超强 AI 系统可能攻破计算机基础设施的风险上。然而，Instagram 被黑事件表明，随着企业将越来越多的工作交给 AI，那些相对不复杂的攻击正变得不可忽视。企业需要重新审视 AI 安全策略，不能只关注尖端威胁，也要防范基础性的漏洞。
当 AI 成为思维的外挂
加州大学欧文分校的心理学家 Gloria Mark 担心，数字技术正在削弱我们的认知能力。她的研究表明，人们的注意力持续时间随时间推移大幅下降，导致压力升高和表现降低。现在，她认为 ChatGPT 和 Claude 等 AI 工具可能加速这一趋势。
Mark 指出：“你正在将认知工作外包给 AI，这对我们不利。”她认为这可能会削弱批判性思维和情商。好消息是，她认为我们可以通过改变与这些技术的关系来纠正方向。AI 如何重塑注意力和思维？ 答案可能在于我们如何主动使用这些工具，而不是被动接受。
本周必读
- Anthropic 呼吁全球放缓 AI 开发，指出模型存在“自我改进”的风险，并要求制定协调计划阻止这一趋势。不过，怀疑者认为时机值得玩味。
- 科学家首次精确编辑人类胚胎基因，采用了较新的基因编辑技术。这意味着基因改造婴儿可能即将成为现实，多家公司已对此有宏大计划。
- 美国官员讨论在 AI 公司中持有财务股份，已与政府就相关事宜进行会谈。
