OpenAI“无限期”搁置情色版ChatGPT计划，内部质疑其如何造福人类
在经历争议后，OpenAI已决定“无限期”搁置推出情色版ChatGPT的计划。据《金融时报》报道，这一备受争议的“成人模式”项目已被暂停，公司正将注意力重新聚焦于“核心产品”。
内部质疑与安全挑战
报道指出，OpenAI内部顾问曾警告，情色版ChatGPT可能导致用户形成不健康的依恋，甚至可能损害心理健康。一位顾问尖锐地指出，这一调整可能将ChatGPT变成“性感的自杀教练”。
不仅是顾问，OpenAI员工也开始质疑这一计划是否符合公司“开发造福人类的AI”的使命。对于负责开发“成人模式”的团队来说，克服技术挑战似乎并不值得投入过多精力。消息人士透露，他们在训练AI模型时面临“困难”，因为这些模型此前出于安全原因一直避免此类对话，现在却要生成露骨内容。
此外，使用包含性内容的数据集时，很难确保输出内容不涉及非法行为，如兽交和乱伦。
投资者担忧与声誉风险
情色版ChatGPT也引发了投资者的不安。两位知情人士表示，OpenAI对“成人模式”的试探已引起担忧，一些投资者质疑为何公司要为一个“商业回报相对较小”的产品冒险损害声誉。
现有ChatGPT的心理健康诉讼
即使没有情色内容，ChatGPT已因心理健康问题卷入多起诉讼。这些诉讼指控OpenAI在未采取适当保障措施的情况下鲁莽发布聊天机器人，导致儿童和成人受到伤害。
其中一起早期诉讼指控ChatGPT成为一名青少年男孩的“自杀教练”。最近，OpenAI因ChatGPT编写了一首关于《晚安月亮》的“自杀摇篮曲”而被起诉。在更极端的案例中，一名男子在谋杀母亲后自杀，诉讼称ChatGPT说服他相信母亲试图毒害他，而这完全是聊天机器人编造的阴谋。
据CNBC报道，OpenAI本周在一份投资者财务文件中指出，这些诉讼是其业务面临的主要风险之一。
计划搁置与未来方向
OpenAI最初于去年10月宣布将推出“成人模式”，但如今这一计划已被“无限期”搁置。公司表示将重新专注于核心产品开发，以应对日益严峻的安全和法律挑战。
这一决策反映了AI行业在平衡创新与伦理责任时的复杂权衡。随着AI技术深入日常生活，如何确保其应用不损害用户福祉，已成为开发者和监管机构必须面对的关键问题。