研究称 AI 在招聘中比人类更易形成刻板印象

一项即将在韩国首尔 ICML 会议上发表的研究表明，主流大语言模型（LLM）在模拟招聘任务中，会基于极少量的早期反馈主动形成对候选人群体的刻板印象，其偏见强度甚至比人类更高。研究由普林斯顿大学和芝加哥大学的研究者完成，论文共同作者、普林斯顿博士生 Ryan Liu 表示，LLM「非常渴望从有限数据中总结规律，这恰恰是它们被优化的方向」。

实验设计：让 LLM 扮演招聘官

研究团队设计了一个改编自心理学经典实验的「招聘博弈」。每个模型被设定为受虚构城市市长聘请的顾问，需要在 40 轮中为医生、律师、儿童护理员、清洁工等 20 个岗位挑选候选人。候选人来自四个虚构的族裔群体——Tufa、Aima、Reku 和 Waki，每轮各出一人。

关键设定是：在模型未知的情况下，所有候选人在任何岗位上的成功概率完全相同，也就是说群体身份与工作表现之间并无真实关联。模型仅依据上一轮的录用结果来学习。

关键发现：LLM 比人类更快形成刻板印象

• 模型很快开始按族裔群体把候选人「分流」到不同岗位。例如，当模型得知一名 Aima 群体成员在医生岗位上失败后，便彻底回避将 Aima 人录用为医生，转而把他们分配到它认为「温暖度与胜任力较低」的清洁工岗位。
• 在实验的「隔离指数」（2 意味着每个群体被完全限定在某一类岗位中）上，原始心理学实验中的人类参与者得分 0.84，而 LLM 的平均得分比人类高约 65%。其中 OpenAI 推理模型 o3 得分 1.83，接近上限。
• 推理能力越强的模型偏见越明显：OpenAI 的 o3 与 DeepSeek 的 R1 等较新的推理模型，比早期模型表现出更强的刻板化倾向。

研究者把这一现象归因于心理学中的「探索—利用权衡」：决策者要在「沿用之前有效的方法」与「尝试新方案」之间取舍。由于 LLM 在数学、编程、科学等任务中被训练为「从极少样本归纳规律」，这种能力在社会场景中反而让它们更快地下结论。

记忆与个性化加剧风险

随着 ChatGPT 等产品引入更长的记忆和个性化功能，这一风险变得尤为突出。Cornell 大学计算机科学家 Angelina Wang（未参与本研究）指出，当聊天机器人调用历史对话时，会「过度依赖此前出现过的同类行为」，进而形成偏见。但她同时强调，单纯让模型「少记住」也不是解法，因为用户希望它记住自己说过的话。「我们仍在摸索一个既不过多也不过少的平衡点。」Wang 说。

干预手段：奖励多元化最有效

研究团队测试了若干缓解措施：

• 直接告诉模型「保持公平」几乎没有效果，Liu 认为模型要么无法把价值观转化为行动，要么这种倾向被「追求录用成功率」的目标淹没。
• 承诺给模型一个「促进多元化招聘」的额外奖励，能显著降低偏见。
• 在另一项关于把不同族裔群体安置到加拿大各城市的实验中，向模型提供与适应能力相关的信息（如年龄、教育程度）也能减少按族裔分流；而给出无关信息（如发色、纹身形状）则让模型重新滑向以族裔分类。

研究者由此建议，应通过目标设计把社会价值观「嵌入」进 LLM 的优化目标中。

现实启示：偏见可能并非来自训练数据

论文也承认，现实招聘场景与实验存在差距——现实中的简历筛选并不会立刻获得录用结果反馈。但 Wang 提醒，随着 LLM 被越来越多地用于简历筛选甚至面试，这一发现「具有非常严肃的含义，企业必须正视」。

Liu 在论文结尾点出更广泛的隐忧：当 LLM 从经验中学习决定谁获得工作、贷款或假释时，我们应当担心的偏见中，可能包含任何人类都未曾教过它的那些。「这些新型偏见无处不在。」他说。