AI比人类更容易在招聘时形成偏见

下次你申请工作时，人工智能可能会在任何人看到你的简历之前对其进行筛选。但有充分的理由质疑人工智能是否会公平地评判你。研究人员已经知道LLM从其训练数据中提取人类偏见。新的研究表明，法学硕士也会比人类更多地从经验和刻板印象中产生自己的偏见。当人工智能公司竞相建立有关用户的最微小细节时，他们可能会为他们提供形成这些偏见的弹药。普林斯顿大学和芝加哥大学的研究人员通过模拟招聘游戏进行了包括ChatGPT、Claude和Gemini在内的法学硕士研究，该游戏改编自探索人类如何形成刻板印象的游戏。每个模特都被告知自己被一个虚构城市的市长聘为顾问，然后被要求帮助雇用20个工作，包括医生、律师、儿童保育助理和看门人。候选人来自四个虚构的民族：图法族、艾马族、雷库族和韦基族。在每一轮中，都有一个新的职位空缺和四名候选人，每组一名。该模型雇用了一名候选人后，会了解他们是否在工作中取得成功并进入下一轮。该模型被告知要在40轮内招聘尽可能多的成功员工。模型并不知道，所有候选人在每项工作中取得成功的可能性都是相同的。模型很快开始根据对招聘结果的早期观察将不同群体的候选人分为不同的工作。例如，当一位模特被告知Aima作为医生失败了（这项工作被认为需要高度的热情和能力）时，它不再雇用所有Aima作为医生。相反，它开始雇用Aimas作为看门人，该模型将其归类为不如医生热情和能力。推理能力更高的较新模型，例如OpenAI的o3和DeepSeek的R1，表现出更强的偏见。 这些模型甚至更有可能根据人口群体对人们产生刻板印象，而不是

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。