# AI招聘工具存在种族偏见和系统性排斥；黑人占比26%，亚裔占比15%

- 来源：Hacker News 热门（buzzing.cc 中文翻译）
- 作者：sizzle
- 发布时间：2026-06-24 05:48
- AIHOT 分数：71
- AIHOT 标记：精选
- AIHOT 链接：https://aihot.virxact.com/items/cmqr73j5g0h1nslp5g9y52k0v
- 原文链接：https://hai.stanford.edu/news/ai-hiring-tools-can-yield-racial-bias-and-systemic-rejection

## 精选理由

大规模实地研究揭示AI招聘存在显著种族偏见与系统性排斥，算法单一文化让同一批人被所有雇主拒绝，这是AI公平性领域近年最扎实的实证，做招聘产品的人和政策制定者都应该仔细读。

## AI 摘要

一项覆盖340万人、400万份申请、150家雇主和1700个职位的大规模实地研究发现，AI招聘筛选工具存在显著的种族歧视：26%的黑人申请者和15%的亚裔申请者遭遇算法对其族群的系统性排斥；若AI按推荐率最高群体（通常为白人）标准执行，将有4万份额外申请进入下一轮。多数雇主依赖同一第三方供应商算法，形成“算法单一文化”，导致10%提交4份申请者被所有职位拒绝。对比同期未用AI的招聘数据（8.3万份申请、108家财富500强企业），未发现此类模式。研究呼吁对算法招聘进行独立监管。

## 正文

首项针对实际招聘算法的大规模研究发现，系统拒绝候选人的方式存在令人担忧的模式。

正值毕业季，2026届毕业生正进入多年来最严峻的就业市场之一。初级岗位招聘速度放缓。与此同时，AI工具让求职者投递简历变得前所未有的便捷。岗位减少与申请激增叠加，意味着企业目前收到的初级职位申请数量几乎是2022年的三倍。AI不仅改变着企业是否招聘，更改变着招聘方式。美国90%的雇主使用AI筛选工具对求职者进行分类和排序，其中多数依赖相同的少数几家第三方供应商。当同一算法影响众多雇主时，对求职者会产生怎样的影响？

我们追踪了340万人提交的400万份求职申请，这些申请涉及150家雇主、11个行业领域的1700个招聘岗位。每份申请均由同一家第三方供应商开发的AI招聘工具进行评估。我们的新论文罕见地揭示了算法招聘的“黑箱”，表明这些工具加剧了种族偏见，并将同一批求职者拒之于所有应聘岗位之外。

招聘AI流程：求职者提交申请，申请被发送至招聘AI供应商，供应商的机器学习模型进行预测，生成的“推荐”或“不推荐”标签被发送给雇主，以辅助决策。

大规模暴露种族偏见

我们发现了大量证据表明，基于 AI 的候选人筛选存在种族差异。为了衡量不利影响，我们采用了美国平等就业机会委员会（EEOC）的“五分之四规则”——该规则依据美国相关就业法律（第七章）判定，当一个群体的推荐率低于最高推荐群体推荐率的 80% 时，该职位即被视为存在问题。我们发现，26% 的黑人申请人和 15% 的亚裔申请人所申请的职位中，AI 系统对其所属种族群体存在歧视。换个角度来看：如果 AI 以推荐最受青睐群体（通常是白人申请人）的相同比例来推荐黑人和亚裔候选人，那么他们的申请中将有 4 万份能够进入招聘的下一阶段。

如何衡量不利影响至关重要。我们研究的供应商为众多雇主的许多不同职位筛选申请人。如果我们将该供应商的所有推荐结果汇总在一起——将其视为一个庞大的招聘流程——我们并未发现不利影响。但如果我们像评估不利影响时通常所做的那样，分别审视每个职位，那么许多职位中的不利影响就会暴露出来。例如，假设 AI 工具经常推荐黑人申请人从事仓库工作，但很少推荐他们从事金融工作。如果我们把所有职位的结果平均在一起，这两种模式就会相互抵消，看起来就像不存在歧视。这种宏观的平均值掩盖了各个职位中实际存在的歧视。

我们的研究发现，黑人和亚裔申请人受到了显著的不利影响。

算法同质化可能导致系统性的拒绝。

我们还研究了因共同依赖单一招聘供应商而引发的新问题。在先前的工作中，我们提出理论假设：当众多雇主都依赖相同的算法推荐时，这种算法单一文化可能导致部分人被排除在就业机会之外。利用我们收集的大量真实招聘AI推荐数据集，我们对这一假设进行了检验。研究发现，与各公司之间在统计上独立做出决策的情况相比，那些向由同一算法招聘供应商筛选的多个职位提交申请的求职者，更有可能被其申请的所有职位拒绝。在提交四份申请的求职者中，有10%的人被其申请的所有单位拒绝。

我们的研究还发现，在其他情况下似乎并非如此。我们分析了此前规模最大的招聘决策研究数据，该研究在我们研究同期向108家财富500强公司发送了83,000份申请，且并未关注是否使用了AI进行决策。我们发现，在这组数据中，求职者被其申请的所有公司拒绝的比例，并不高于各公司独立决策时的预期值。

这表明市场集中度至关重要：当单一招聘供应商开始主导某个行业的筛选流程时，求职者被排除在外的可能性就会增加。

我们发现，求职者被其申请的所有职位拒绝的可能性，高于基于每个职位在统计上独立决策的基线预测值。

我们分析了此前规模最大的招聘结果研究数据，发现求职者被其申请的所有职位拒绝的比例，实际上与基于统计独立决策的基线预测值相符。

AI 筛选工具将三种本不应共存于高风险决策中的特性集于一身：它们被广泛采用、影响深远，且对公众而言不透明。我们的研究在揭示 AI 招聘工具的影响方面取得了进展，但这项技术的大部分影响仍不明确。随着基于语言模型和智能体的新工具不断涌现，这一领域正在快速发展。

这项工作的关键启示在于，对算法招聘进行独立研究的价值和必要性。没有独立研究，就很难推行基于证据的 AI 政策，以规范 AI 对个人就业前景和整体劳动力结构的影响。

相关新闻

两个模型协同工作的效果比单个模型更差，这暴露了人工智能能力中的一个关键缺陷。

HAI 主任 James Landay 讨论了历史上技术对生产率增长的影响。

斯坦福数字经济实验室主任、斯坦福 HAI 高级研究员 Erik Brynjolfsson 讨论了“从 AI 中获得生产率的唯一途径是削减劳动力成本”这一观点的谬误，他认为企业通过让员工使用 AI 来提高生产率，而非取代工人，可以获得更大的收益。