独家 | 构建符合道德规范的用于人才管理的AI（附链接）

作者：Tomas Chamorro-Premuzic，Frida Polli，Ben Dattner

翻译：wwl

校对：吴金笛

本文约2800字，建议阅读5分钟

在人才管理中，相较于依赖招聘经理的人工筛选评估，AI模型，可以更好地帮助减轻对潜在雇员的偏见，增加组织用人的多样性、包容性。

人工智能已经打乱了我们生活的各个领域——从亚马逊和阿里巴巴等公司精心策划的购物体验，到YouTube和Netflix等频道用个性化推荐来推销其最新内容。但是，说到职场，在很多方面，人工智能还处于初级阶段。尤其是当我们考虑到它开始改变人才管理的方式时，更是如此。用一个熟悉的比喻：职场中的人工智能处于拨号模式。5G WiFi阶段尚未到来，但我们毫不怀疑它会到来。

诚然，对于人工智能能做什么和不能做什么，以及如何定义它，人们有很多困惑。然而，在人才争夺战中，人工智能扮演着一个非常特殊的角色：为机构提供对候选人职业行为、表现潜力更精准、有效的预测。与传统招聘方式不同，比如员工推荐、简历筛选、面对面面试，人工智能可以发现人眼捕捉不到的特征。

许多人工智能系统使用真实的人作为特定角色的成功模型。这类人的集合作为训练数据集，通常包含了被定义为“高绩效”的管理者和员工。人工智能系统处理并比较各种求职者的个人资料和它根据训练集创建的“模范”雇员。然后，它为公司提供一个概率估计，即候选人的属性与理想员工的属性匹配的程度。

理论上，这种方法可以更快、更有效地为合适的岗位匹配合适的人。但是，正如你可能已经意识到的，它已经成为一种希望和危险的源泉。如果训练集是多样的，如果无偏差的人口统计学特征用于描述其中的人，且算法是无偏的，那么这个技术确实可以比人类更好地减轻人类的偏见、扩大多样性、社会经济包容性。然而，如果训练集，实际的数据，或者两者都是偏态分布的，而且算法也没有充分的审核，那么人工智能只会加剧招聘中的偏差和组织中的同质性问题。

为了快速提升人才管理以及充分利用人工智能的潜力，我们需要将重点从开发更具道德的人力资源系统转移到开发更具道德的人工智能。当然，从人工智能中消除偏见并不容易。事实上，这很难。但我们的论点是基于我们的信念，即它远比从人类自身移除它更可行。

在识别人才或潜力方面，大多数机构还是会尽力而为。招聘人员在决定谁被淘汰之前只需要花费几秒钟的时间看一看简历。招聘经理利用所谓的“直觉”或是忽视硬数据，依靠文化契合度进行招聘——由于普遍缺乏客观、严格的业绩衡量标准，这一问题变得更为严重。另外，越来越多的公司实施的无意识的偏态的数据训练往往被发现是无效的，有时甚至会使情况更糟。通常，训练只关注个体的差别，而忽视了样本量小的类别的结构化偏态。

尽管批评者认为人工智能并没有更好，但他们常常忘记，这些系统反映了我们自己的行为。我们很快就会责怪人工智能预测白人（可能也是白人男性）经理会获得更高的绩效评级。但这个发生的原因是我们没有对训练数据中绩效评级的偏态分布进行相应处理。因为人工智能得到的偏态的招聘决策，我们感到震惊，但生活在人类偏见主导的世界也可以很好。看看亚马逊吧，批评他们的招聘算法有失偏颇的呼声忽视了压倒性的证据，即目前大多数组织中人力驱动的招聘情况是不可避免的更加糟糕。这相当于表达了对无人驾驶汽车死亡事件的关注超过了每年120万人由于车辆缺陷、驾驶员注意力分散和酒驾而造成的交通死亡。

事实上，相比于影响激励招聘者和招聘经理，人工智能系统有更好的能力可以保证准确性和公平性。人类擅长学习但不擅长忘记。使我们产生偏见的认知机制，往往也是我们在日常生活中用来生存的工具。这个世界太复杂了，我们无法一直有逻辑地、有意识地进行处理；如果我们这样做了，我们将被信息过载所淹没，无法做出简单的决定，比如买一杯咖啡（毕竟，如果我们不认识咖啡师，我们为什么要信任他？）。这就是为什么更容易确保我们的数据和训练集没有偏见，而不是改变Sam或Sally的行为，对于一个人，我们既不能消除偏见，也不能真正何获取影响他们决策的变量的实际输出。从本质上讲，分析人工智能算法比理解和改变人类思维更容易。

为此，在任何阶段，使用人工智能进行人才管理的组织都应该从以下步骤开始。

• 教育候选人并获得他们的许可。向潜在的雇员进行询问，向公司提供他们的个人数据，这些数据将被分析、存储，应用于HR决策的人工智能系统。准备向他们解释关于what、who、how、why的问题。因为依赖黑箱模型的人工智能系统是不道德的。如果一个候选人具备与成功相关的属性，那么不仅需要理解为什么，还需要解释因果关系。简单来说，人工智能系统应该设计为用于预测和解释因果关系的，而不仅是发现相关性。另外你应该保证候选人的匿名性，以保护个人数据并遵守相关法律规定。

• 投资于优化公平性和准确性的系统。历史上，组织心理学家曾指出，当候选人的评估模型为公平性而优化时，准确性会下降。例如，大量的学术研究表明，认知能力测试和工作表现一致，特别是在高复杂度的工作中。这种分布对任职人数少，尤其是社会经济地位低的个人产生不利影响。也就是说，公司如果想提升多样性，创造包容文化，那么在雇佣新员工的时候需要降低对认知测试的关注，这样多元化的应聘者在招聘过程中就不会处于不利地位，这就是所谓的公平性/准确性权衡。

但是，这个权衡关系依赖的是半个世纪以前的技术，远早于人工智能模型的出现，而人工智能模型可以用于传统方法不同的方式对待数据。越来越多的证据表明人工智能可以通过部署动态的、个性化的打分算法，克服这个权衡关系，使其对准确性和公平性同样敏感，可以共同实现最优。因此，人工智能的开发者没有理由不这么做。此外，由于这些新的系统已经存在，我们应该质疑广泛使用的传统认知评估（对少数群体产生不利影响），在没有偏见缓解的方式下是否应该继续存在。

• 开发开源系统和第三方评审。通过允许其他人评估这个用于分析的工具，让公司和开发人员负起责任。一个解决方案是开源非专利，但关键部分的人工智能技术由公司所有。对于专有组件，公司可以利用由该领域可靠专家进行的第三方评审向公众展示其如何减轻偏见。

• 遵守与传统招聘同样的数据收集、应用过程中的法律。人工智能系统不应使用因法律或道德原因而不被允许收集或包含在传统招聘流程中的任何数据。不得输入有关身体、精神或情绪状况、基因信息以及药物使用或滥用的私人信息。

如果组织解决了这些问题，我们相信，道德的人工智能不仅可以减少在招聘方面的偏见，而且还可以增强英才管理，使人才、努力和员工成功之间的联系远远大于过去，从而大大改善组织。此外，这将有利于全球经济。一旦我们减少偏见，我们的候选人池将不限于员工推荐和常春藤联盟毕业生。来自更广泛社会经济背景的人将有更多机会获得更好的工作——这有助于创造平衡，并开始弥补阶级分歧。

然而，要实现上述目标，企业需要做出正确的投资，不仅是在尖端人工智能技术方面，而且（尤其是）在人类专业知识方面——这些人懂得如何利用这些新技术提供的优势，同时最大限度地减少潜在的风险和缺点。在任何领域，人工智能和人类智慧的结合都有可能产生比没有人工智能更好的结果。道德人工智能应该被视为我们可以用来对抗自己偏见的工具之一，而不是最终的灵丹妙药。

原文标题：

Building Ethical AI for Talent Management

原文链接：

https://hbr.org/2019/11/building-ethical-ai-for-talent-management

编辑：王菁

校对：杨学俊

译者简介

王威力，养老医疗行业BI从业者。保持学习。

翻译组招募信息

工作内容：需要一颗细致的心，将选取好的外文文章翻译成流畅的中文。如果你是数据科学/统计学/计算机类的留学生，或在海外从事相关工作，或对自己外语水平有信心的朋友欢迎加入翻译小组。

你能得到：定期的翻译培训提高志愿者的翻译水平，提高对于数据科学前沿的认知，海外的朋友可以和国内技术应用发展保持联系，THU数据派产学研的背景为志愿者带来好的发展机遇。

其他福利：来自于名企的数据科学工作者，北大清华以及海外等名校学生他们都将成为你在翻译小组的伙伴。

点击文末“阅读原文”加入数据派团队~

转载须知

如需转载，请在开篇显著位置注明作者和出处（转自：数据派ID：datapi），并在文章结尾放置数据派醒目二维码。有原创标识文章，请发送【文章名称-待授权公众号名称及ID】至联系邮箱，申请白名单授权并按要求编辑。

发布后请将链接反馈至联系邮箱（见下方）。未经许可的转载以及改编者，我们将依法追究其法律责任。

点击“阅读原文”拥抱组织