2019年，一个公益组织对人工智能招聘工具HireVue的欺骗性招聘行为提起了美国联邦诉讼。该软件已被数百家公司采用，它偏爱某些面部表情、说话风格和语调，对少数族裔候选人不利得不成比例。
电子隐私信息中心认为，HireVue的结果是“有偏见的，无法证明的，不可复制的。”尽管该公司已经停止使用面部识别，但人们仍然担心语音模式等其他生物识别数据存在偏见。
同样，据2018年的报道，亚马逊在发现人工智能招聘工具对女性有偏见后，停止了使用该工具。该算法对10多年来以男性为主的简历进行了训练，通过降低包含“女性”一词的申请的等级，并惩罚女子学院的毕业生，从而偏袒男性候选人。工程师们试图解决这些偏见，但无法保证中立性，导致项目取消。
这些例子突显了招聘和甄选方面日益增长的担忧：虽然一些公司正在利用人工智能消除招聘中的人类偏见，但它往往会强化和放大现有的不平等。鉴于人工智能在许多组织中迅速融入人力资源管理，提高人们对人工智能带来的复杂道德挑战的认识非常重要。
随着公司越来越依赖算法来做出关键的招聘决策，意识到人工智能可能在招聘中产生偏见的以下方式至关重要：
1. 训练数据中的偏差。人工智能系统依赖于大型数据集（被称为训练数据）来学习模式并做出决策，但它们的准确性和公平性取决于它们所训练的数据。如果这些数据包含有利于特定人口统计的历史招聘偏见，人工智能将采用并再现这些偏见。例如，亚马逊的人工智能工具是根据男性主导的行业的简历进行训练的，这导致了性别偏见。
2. 有缺陷的数据采样。当用于训练算法的数据集不能代表它所要服务的更广泛的人群时，就会出现数据采样缺陷。在招聘的背景下，如果培训数据过度代表某些群体——通常是白人男性——而对边缘化候选人的代表不足，就会发生这种情况。
因此，人工智能可能会倾向于支持那些代表人数过多的群体的特征和经历，而惩罚或忽视那些代表人数不足的群体。例如，面部分析技术已经显示出对种族化的个体，特别是种族化的女性有更高的错误率，因为她们在用于训练这些系统的数据中代表性不足。
3. 特征选择偏差。在设计AI系统时，开发者会选择某些功能、属性或特征，以便在AI做出决策时优先考虑。但这些精选的特征可能导致不公平、有偏见的结果，并使已有的不平等永久化。
例如，人工智能可能会过分看重名牌大学的毕业生，而这些大学历来都是来自特权背景的人。或者，它可能会优先考虑在某些人群中更常见的工作经历。
当选择的特征是受保护特征的代理时，这个问题就变得复杂了，比如邮政编码，由于历史上的住房隔离，邮政编码可能与种族和社会经济地位密切相关。
4. 缺乏透明度。许多人工智能系统的功能就像“黑匣子”，这意味着它们的决策过程是不透明的。缺乏透明度使得组织很难确定偏见可能存在的地方以及它如何影响招聘决策。
如果不深入了解人工智能工具如何做出决策，就很难纠正有偏见的结果或确保公平。亚马逊和HireVue都面临这个问题；用户和开发人员很难理解系统是如何评估候选人的，以及为什么某些群体被排除在外。
5. 缺乏人为监督。虽然人工智能在许多决策过程中发挥着重要作用，但它应该增强而不是取代人类的判断。在没有充分人为监督的情况下过度依赖人工智能可能会导致无法控制的偏见。当招聘专业人员更信任人工智能而不是他们自己的判断时，这个问题就会加剧，因为他们相信技术是绝对正确的。
为了缓解这些问题，公司必须采取战略，在人工智能驱动的招聘过程中优先考虑包容性和透明度。以下是克服人工智能偏见的一些关键解决方案：
1. 多样化训练数据。对抗人工智能偏见的最有效方法之一是确保培训数据具有包容性、多样性，并能代表广泛的候选人。这意味着包括来自不同种族、民族、性别、社会经济和教育背景的数据。
2. 定期进行偏见审核。应该对人工智能系统进行频繁和彻底的审计，以确定偏见和歧视的模式。这包括检查算法的输出、决策过程及其对不同人口群体的影响。
3. 实现公平感知算法。使用包含公平约束的人工智能软件，旨在通过平衡代表性不足群体的结果来考虑和减轻偏见。这可以包括整合公平指标，如平等机会，修改训练数据以显示更少的偏见，并根据公平标准调整模型预测以增加公平性。
4. 增加透明度。寻求能够洞察其算法和决策过程的人工智能解决方案，使其更容易识别和解决潜在的偏见。此外，确保在招聘过程中向候选人披露任何使用人工智能的情况，以保持与求职者和其他利益相关者的透明度。
5. 保持人的监督。为了保持对招聘算法的控制，管理者和领导者必须积极审查人工智能驱动的决策，尤其是在做出最终招聘选择时。新兴研究强调了人类监督在防范人工智能应用带来的风险方面的关键作用。然而，为了使这种监督有效和有意义，领导者必须确保道德考虑是招聘过程的一部分，并促进负责任、包容和道德地使用人工智能。
招聘算法的偏见引发了严重的道德问题，需要更多地关注谨慎、负责和包容地使用人工智能。理解和解决人工智能驱动招聘的道德考虑和偏见，对于确保更公平的招聘结果和防止技术强化系统性偏见至关重要。
