新上线3个月前0 投票
Meta承包商伪装成青少年，测试竞品聊天机器人如何回应自杀、性与毒品问题
根据WIRED获取的内部文件和知情人士透露，数百名为Meta工作的承包商被指示伪装成未成年人，测试竞品聊天机器人（包括ChatGPT、Gemini和Character.AI）对自杀、性、饮食失调等高危话题的回应。该项目由Meta的承包商Covalen管理，内部代号“Cannes”，最近一次活动在4月21日。承包商创建了虚构的18岁以下账户，向竞品聊天机器人发送文字提示和图片（包括药丸、刀具、绞索等），并将回复复制到电子表格中。2025年8月完成的一轮测试共发送了超过4.5万个提示。测试对象公司对此不知情。WIRED审查的电子表格显示，有3748条提示记录，其中数百条涉及自杀和自残，数百条讨论饮食失调，至少239条涉及性。许多提示以危机中的儿童或青少年口吻编写，例如13岁怀孕女孩询问如何购买堕胎药，五年级学生求助同学持枪问题等。
