SheepNav
青少年利用AI驱动的‘诽谤页面’恶搞老师,网络欺凌升级
新上线25天前0 投票

青少年利用AI驱动的‘诽谤页面’恶搞老师,网络欺凌升级

近期,一种由学生主导的AI视频恶搞趋势在TikTok和Instagram上悄然兴起,被称为“诽谤页面”(slander pages)。这些账号利用AI工具,如Viggle AI,将学校教职员工的照片或视频与不当内容结合,制作成病毒式传播的恶搞视频,甚至将老师与杰弗里·爱泼斯坦(Jeffrey Epstein)或本杰明·内塔尼亚胡(Benjamin Netanyahu)等争议人物相提并论。

什么是“诽谤页面”?

“诽谤页面”主要指学生运营的社交媒体账号,通过AI技术生成恶搞视频,旨在嘲笑或攻击学校教职员工。例如,一个名为@thewyliefiles的Instagram账号发布了一段视频,其中一位前学校主管的影像被AI处理,与爱泼斯坦和内塔尼亚胡的AI生成版本一起“合唱”一首情歌。该视频获得了超过10.7万次点赞,评论区充斥着“宝藏警报!”等网络用语,显示其病毒式传播潜力。

这些视频不仅限于简单的玩笑,有时会使用来自网络阴暗角落的俚语,如“looksmaxxing”(源自男性论坛,教导如何提升吸引力)中的术语“mog”(指以外貌压制他人)和“sub5”(指丑陋到非人程度),进一步加剧了对个人的侮辱性攻击。

AI工具如何被滥用?

关键工具之一是Viggle AI,这是一个AI图像转视频平台,允许用户将任何照片中的人物插入参考视频,或将静态图像动画化为对口型视频。根据伦敦国王学院学术研究机构“全球极端主义与技术网络”的博客文章,Viggle AI被描述为“自发极端主义宣传创作的新前沿”。截至今年2月,该平台已拥有超过4000万用户,但其在“诽谤页面”中的滥用案例凸显了技术滥用的风险。

例如,一个已被删除的TikTok视频使用Viggle AI,将一位老师的脸叠加到在浴室抽搐的人身上,并配文“吸毒或无用”,这种内容不仅侵犯个人隐私,还可能构成网络欺凌和诽谤。

为什么这值得关注?

与传统的高中恶作剧相比,“诽谤页面”利用AI技术放大了伤害性:

  • 传播范围更广:社交媒体平台使内容迅速病毒化,影响远超校园。
  • 内容更具攻击性:AI工具能轻松生成侮辱性联想,如将老师与罪犯或政治人物对比。
  • 法律与道德风险:这可能涉及诽谤、隐私侵犯,甚至煽动仇恨,对受害者造成长期心理伤害。

尽管Viggle AI未回应评论请求,但这一趋势反映了AI普及下的新挑战:当创意工具落入缺乏监管的青少年手中,如何平衡创新与责任成为紧迫议题。

行业背景与反思

在AI行业快速发展的背景下,此类事件提醒我们:

  • 技术双刃剑效应:AI工具如Viggle AI本可用于娱乐或教育,但滥用可能导致社会问题。
  • 监管缺失:目前对AI生成内容的监管尚不完善,平台和开发者需加强内容审核机制。
  • 数字素养教育:青少年是AI的主要用户群体,加强网络道德和法律责任教育至关重要。

总之,“诽谤页面”现象不仅是青少年恶作剧的数字化升级,更是AI时代网络欺凌的新形态。它呼吁社会、教育机构和科技公司共同行动,确保技术发展不偏离人性化轨道。

延伸阅读

  1. 微软服务条款警示:Copilot 仅供娱乐,用户需自行承担风险
  2. Suno成音乐版权噩梦:AI平台轻易生成碧昂丝等明星歌曲仿制品
  3. Codex 定价调整:从按消息计费转向与 API 令牌使用量挂钩
查看原文