SheepNav
精选9天前0 投票

OpenAI 捣毁两起 AI 驱动的“假面”影响力行动:假记者与假智库如何操纵舆论

事件概览

OpenAI 近日宣布,已封禁两起利用其模型进行隐蔽影响力行动(IO)的账号网络,分别来自俄罗斯和伊朗。这两起行动并非单纯的技术攻击,而是将 AI 与传统欺骗手段结合,打造出高度仿真的“假面”实体——假记者与假智库,试图将地缘政治、冲突相关的信息“洗白”后输送给目标受众。

伊朗行动:七人“记者”团队

伊朗方面的行动搭建了 7 个“记者”人设,利用 AI 生成长篇报道,并向全球中小型在线媒体投稿。这些文章主题多围绕美伊战争,同时该行动还批量生成社交媒体评论,试图在舆论场中制造共鸣。

这种手法与 2016-17 年俄罗斯军事情报部门使用的假记者“Alice Donovan”如出一辙——当时其文章曾被多家西方媒体刊发。

俄罗斯行动:被利用的拉美“智库”

俄罗斯方面的行动则更为隐蔽:它利用不知情的拉美当地人员,在实地运营一个“智库”。除了控制该智库,该行动还伪造**“泄露”文件和音频脚本**,其中部分内容已被发现正在网上传播。

值得注意的是,俄罗斯行动大量使用 AI 起草内部报告,其频率远超其他用途。两起行动都使用了可疑甚至欺骗性的方法论,以夸大行动效果。

AI 的角色:效率放大器,而非变革者

最引人注目的是,这些行动与 AI 时代之前的复杂影响力行动高度相似,AI 只是让部分工作流程变得更轻松。例如,2020 年与俄罗斯“互联网研究机构”有关联的人员曾运营假新闻媒体“PeaceData”,同样招募了全球不知情的记者为其撰稿。

OpenAI 表示,公布这些报告旨在让监管机构、行业同行和更广泛的社会了解威胁行为者如何试图利用 AI,并揭示他们试图利用的漏洞。

行业启示

这两起案例表明,AI 并未创造全新的影响力行动模式,而是降低了传统手段的成本与门槛。对于平台和监管者而言,识别“假面”实体——无论是假记者、假智库还是伪造文件——仍是防御的核心。OpenAI 的封禁行动也提醒我们,AI 安全不仅是技术问题,更是信息生态的治理问题。

延伸阅读

  1. Pomerado:将任何网站变成 API,实现更快更可靠的浏览器自动化
  2. SignWith:按文档付费的电子签名,告别订阅制
  3. Atelier:为AI编程代理打造的专属工作室
查看原文