X平台Grok AI在伊朗战争信息核查中失准，甚至生成虚假内容
Grok AI在伊朗冲突信息核查中的失败表现
当虚假信息专家Tal Hagin要求Grok验证X平台上一条关于伊朗导弹袭击特拉维夫的帖子时，埃隆·马斯克的这款AI聊天机器人表现糟糕。Grok多次错误识别视频的位置和日期——该视频最初由伊朗官方媒体于周日发布在X上。更令人担忧的是，聊天机器人为了“证明”自己的观点，竟然分享了一张AI生成的图像。
“现在Grok用AI生成的毁灭性垃圾内容来回复，”Hagin在回应中写道，“简直是胡编乱造。”
X平台上的虚假信息泛滥
自2月28日美国和以色列开始攻击伊朗以来，X平台与现实脱节的程度日益加剧。正如WIRED当时报道的，该社交媒体平台迅速被分享虚假和重新利用视频的账户淹没的虚假信息。随着冲突持续，这种泛滥情况只会变得更糟。
最近几天，AI图像和视频进一步加剧了这一问题，而Grok在要求验证平台上的说法时，多次提供了错误信息。
AI生成内容的传播与影响
- 传播渠道：AI图像由带有蓝色勾号的付费账户和试图夸大损害程度的伊朗官员分享
- 技术背景：易于访问的AI图像和视频生成工具的普及，导致了越来越复杂的虚假内容
- 具体案例：
- 3月2日，伊朗官员和官方媒体分享了巴林一栋高层建筑着火的AI生成视频
- 一张显示美国B-2轰炸机被伊朗击落、美军被拘留的图像在被删除前被浏览超过100万次
- 显示三角洲部队成员被伊朗当局抓获的图像在被删除前被浏览超过500万次
虚假内容的多样性与危害
一些在X上推广的AI内容真实性较低。例如，一段声称显示伊朗部队在洞穴深处制造导弹的视频，虽然明显虚假，但仍被多个账户分享，浏览量超过100万次。
根据战略对话研究所（ISD）研究人员与WIRED分享的分析，伊朗政府还利用AI推动明显的反犹太主义叙事。X上一个亲政权的宣传网络中的账户分享了AI生成的帖子，描绘正统派犹太人带领美国士兵参战或庆祝美国人死亡。
对AI内容审核的挑战
这一系列事件凸显了AI工具在信息验证方面的局限性，尤其是在地缘政治冲突等高度敏感、快速变化的场景中。Grok的失败不仅在于无法准确识别事实，更在于它主动生成和传播虚假内容，这可能会加剧错误信息的传播。
平台责任与技术伦理
X平台面临着双重挑战：一方面是用户生成的虚假内容泛滥，另一方面是平台自有的AI工具（如Grok）在内容审核和事实核查中的失败。这引发了关于社交媒体平台在冲突时期信息生态中的责任，以及AI系统在设计时如何考虑防止滥用和错误信息传播的重要问题。
随着AI生成内容变得越来越容易制作和传播，平台、开发者和监管机构需要共同应对这一日益严峻的挑战，确保技术不被用于操纵公众认知和加剧冲突。