新上线今天0 投票
旧金山要求苹果和谷歌从应用商店下架AI“脱衣”应用
旧金山市检察官办公室本周向苹果和谷歌发出停止侵权函，要求其从应用商店中移除13款“换脸”应用，这些应用利用AI技术生成未经同意的裸体图像，主要针对女性及女孩。市检察官David Chiu表示，这些科技巨头通过应用内购分成获利，涉嫌“协助和教唆”销售深度伪造色情内容，并呼吁其切断与开发者的业务关系。
Chiu指出，生成非自愿的亲密图像是非法、有害且完全不可接受的行为。他的办公室此前已对16个流行的深度伪造网站采取法律行动。信件援引加州法律，认为支持创建深度伪造色情内容的服务属于违法。研究者多次在苹果App Store和谷歌Play Store中发现并报告此类应用，部分应用甚至被标记为适合儿童使用。
谷歌回应称，已删除“数百”款违反政策的“脱衣”应用，包括Chiu办公室指出的五款安卓应用，并采取了其他限制措施。谷歌发言人Dan Jackson表示，谷歌Play不允许包含此类内容的应用存在。苹果尚未公开回应，但其开发者政策同样禁止色情、滥用和骚扰内容。
此次行动凸显了科技平台在审核AI生成有害内容方面的责任。尽管新法律和禁令试图打击深度伪造色情问题，但科技公司仍被指责未能有效阻止此类应用上架。旧金山的法律行动可能推动更严格的监管，并促使应用商店加强审核机制。
