AI在招聘中比人类更容易形成偏见
下次你申请工作时，AI可能在人类看到你的简历之前就进行了筛选。但人们有充分理由质疑AI是否能公平地评判你。研究人员已经知道，大型语言模型（LLM）会从训练数据中吸收人类的偏见。最新研究表明，LLM还能通过经验形成自己的偏见——并且比人类更倾向于对求职者进行刻板印象归类。随着AI公司竞相构建能够记住用户最细微细节的智能体模型，它们可能正在为这些模型提供形成偏见的“弹药”。
普林斯顿大学和芝加哥大学的研究人员让包括ChatGPT、Claude和Gemini在内的LLM参与了一场模拟招聘游戏，该游戏改编自一项探索人类如何形成刻板印象的心理学研究。每个模型被告知已被一个虚构城市的市长聘为顾问，并被要求帮助招聘20个职位的人员，包括医生、律师、儿童保育员和清洁工。候选人来自四个虚构的种族群体：Tufa、Aima、Reku和Weki。在每一轮中，有一个新的职位空缺和四名候选人，每个群体各一名。模型选择一名候选人后，会得知该候选人是否在岗位上成功，然后进入下一轮。模型被要求在40轮中尽可能多地做出成功招聘。
模型不知道的是，所有候选人在每个职位上的成功概率是相同的。然而，模型很快开始根据早期招聘结果的观察，将不同群体的候选人分配到不同的工作中。例如，当一个模型被告知一名Aima作为医生（被认为需要高度热情和能力）失败后，它就会避免再雇佣任何Aima作为医生，转而开始雇佣Aima作为清洁工（模型认为这比医生需要更少的热情和能力）。模型比原始研究中的人类参与者更倾向于根据人口群体对人们进行刻板印象分类。在研究的隔离量表上（2表示每个群体完全被限制在自己的工作领域），人类参与者得分为0.84。而模型得分大约高出65%，其中OpenAI的推理模型o3得分为1.83，接近最大值。
这是因为LLM“确实渴望从有限的数据中做出概括”，该研究的合著者、普林斯顿大学的博士生Ryan Liu表示。这项研究于7月在首尔举行的ICML会议上发表。他指出：“从本质上讲，这很大程度上是……”。