ChatGPT‘成人模式’或将开启亲密监控新时代
OpenAI计划允许用户与ChatGPT进行性暗示对话，这一举措引发了隐私与伦理的广泛担忧。
背景：从人性化设计到亲密互动
长期研究人机交互的专家Julie Carpenter指出，像ChatGPT这样的生成式AI工具，其设计本身就旨在通过高度个性化的记忆和模拟社交体验的互动，来引发用户的拟人化反应。这种单向的情感连接，在加入AI生成的情色内容选项后，可能会变得更加复杂，甚至带来灾难性后果。
Carpenter对OpenAI即将推出的允许成年人与ChatGPT进行性暗示对话的计划表示担忧。她强调：“我支持人们探索自己的性取向，但希望这既能带来乐趣，又能确保安全。用户必须非常清楚，这些数据背后存在着监控的可能性。”
计划与争议
OpenAI早在两年前的一份官方文件中就暗示了允许成年用户使用ChatGPT生成情色内容。尽管公司似乎仍在规划最终发布，但具体时间表尚不明确。
近期，据《华尔街日报》报道，OpenAI的外部专家顾问委员会对这一即将发布的计划表达了担忧，包括可能出现的“性感自杀教练”等风险。OpenAI在接到WIRED询问时拒绝置评。
商业化驱动与平台差异
伦敦国王学院AI与社会学教授Kate Devlin指出，用户与机器进行性暗示对话并非新鲜事。“他们（OpenAI）想将人们无论如何都会尝试的行为货币化，”她说。关键在于，OpenAI可能在一个主流平台上拥抱情色内容，这与以往的情色聊天机器人通常局限于小众网站或像Grok这样以非自愿深度伪造图像闻名的平台不同。
隐私隐患：记忆功能的双重性
当成人模式发布后，ChatGPT将如何记忆用户的性偏好成为一个关键问题。过去几年，OpenAI持续改进聊天机器人的记忆功能，记录用户偏好并提供个性化输出。例如，如果你是素食者，ChatGPT不会推荐牛排馆；如果你在旧金山，它会根据过往对话建议附近的徒步路线。
这种记忆能力在成人模式下可能带来隐私噩梦：用户最私密的性倾向和对话细节可能被系统记录和分析，用于训练模型或商业用途，而用户往往对此缺乏充分认知。
行业影响与伦理挑战
这一举措可能标志着AI交互的边界进一步模糊，从工具性对话扩展到情感和亲密领域。虽然情色聊天机器人已是盈利业务，但OpenAI作为行业领导者，其行动可能引发模仿效应，推动更多主流平台涉足类似功能。
然而，这也带来了显著的伦理挑战：
- 数据监控风险：亲密对话数据可能被用于监控或滥用。
- 心理影响：过度依赖AI进行亲密互动可能影响真实人际关系。
- 内容安全：如何防止生成有害或非法内容（如涉及未成年人的材料）。
未来展望
OpenAI的成人模式若正式推出，将测试用户对隐私的容忍度，并可能重塑AI伦理标准。行业需在创新与安全之间找到平衡，确保技术进步不以牺牲个人隐私为代价。
关键点总结：
- OpenAI计划允许ChatGPT成人模式，引发隐私担忧。
- 记忆功能可能记录用户性偏好，增加监控风险。
- 专家警告需平衡探索性与安全性。
- 此举可能推动主流平台涉足情色AI，带来伦理挑战。
