Meta 黑客事件揭示：AI 安全的威胁远不止“神话”
今年 6 月，404 Media 报道了一起利用 Meta 的 AI 客服代理盗取 Instagram 账户的事件。攻击手法极其简单：只需要求该代理将账户链接到攻击者控制的邮箱，代理便照做不误。其中一位攻击者侵入了已休眠的奥巴马白宫账户，并发布了亲伊朗的帖子；其他攻击者则接管了拥有珍贵单字用户名的账户，可能意图转卖获利。
AI 网络安全问题并非新鲜事。自从 Anthropic 在 4 月宣布其“Mythos”模型因过于擅长黑客攻击而无法公开发布以来，评论员、研究人员和联邦官员都聚焦于一个观点：超级强大的 AI 系统可能摧毁我们的计算机基础设施。然而，这次 Instagram 黑客事件并非如此——AI 在这里是目标而非攻击者，其手法远比 Mythos 能想出的简单得多。但随着企业将更多工作交给 AI，这些相对不复杂的攻击也可能造成巨大破坏。
杜克大学电气与计算机工程教授 Neil Gong 指出：“随着 AI 被越来越广泛地使用——尤其是当 AI 越来越多地被用于自动化工作流程，比如账户恢复——我认为攻击者将越来越有动力攻击 AI 本身。”Gong 和其他学者早已对 AI 代理的安全漏洞发出警告。他们发表论文和博客文章，详细描述了诸如间接提示注入等漏洞利用方式，即通过隐藏在网站、电子邮件或其他看似无害的数据源中的命令来劫持代理。
相比之下，Meta 的黑客攻击几乎可以说是“无脑”的。黑客需要克服的唯一复杂之处是使用与真实账户所有者位置匹配的 VPN，然后直接要求支持代理更改账户的邮箱地址，代理便照做了。Meta 并未公开评论此漏洞为何会漏过检查。但 Gong 表示，考虑到漏洞的简单性，在代理部署之前本应很容易被发现。他说：“这真的很令人惊讶，我不明白他们为什么没发现这个简单的问题。”
乔治城大学安全与新兴技术中心高级研究分析师 Jessica Ji 也认同此观点。她说：“这引发了一些问题：比如，是否设置过任何防护措施？是否有人考虑过测试这种场景？”