耶鲁大学测试人类和AI一起工作 结果令人意外！

选自：The Atlantic 翻译：网易智能 

参与：晗冰 编辑：定西

【网易智能讯 3月7日消息】《大西洋月刊》撰文指出，人工智能正在直接或间接地影响诸如爱情、友谊、合作以及教学等人类基本社会能力。

当人工智能更全面地渗入人类生活时，我们可能还需要一种新的社会契约，一种与机器而不是与他人相处的契约。

几十年来关于机器人如何改变我们生活，一直是科幻小说的惯常话题。20世纪40年代，当人类和人工智能之间的广泛互动还遥不可及之时，科幻小说作家艾萨克·阿西莫夫（Isaac Asimov）为了防止机器人伤害人类，就提出了著名的机器人三定律。由于清楚机器人可以通过直接互动影响人类，机器人三定律的第一点就是机器人不能伤害人类，也不能在人类受到伤害时袖手旁观。想想经典科幻小说中的那些描述:比如在《星球大战》中，C-3PO和R2-D2与叛军联盟合作挫败帝国;或者《2001太空漫游》中的HAL 9000和《机械姬》中的艾娃密谋杀害表面上的主人。

但是这些想象并没有集中在人工智能更广泛也更重要的潜在社会影响上：人工智能可以影响我们人类之间的互动方式。

当然，激进的创新此前已经一再改变了人类共同生活的方式。大约在5000到10000年前，城市的出现意味着游牧生活的减少和人口密度的增加。无论是人类个体还是集体，都对这种新的生活方式进行了适应。比如说我们可能已经进化出对可能由这些密集新环境造成感染的抵抗力。最近，包括印刷、电话和互联网在内的技术发明彻底改变了我们存储和交流信息的方式。

然而，尽管这些创新具有重大影响，但它们并没有改变人类社交属性的基本行为：这是我们经过数十万年进化而来的基本社会能力，其中包括爱情、友谊、合作和教学。在世界各地，这些人类行为的基本因素在世界各地保持着惊人的一致性，无论是在城市或者农村，无论人类社会中是否使用现代技术均是如此。

但在人类社会中间加上人工智能可能更具破坏性。特别是当机器被设计成和我们一样，并深深地渗入我们的生活时，它们可能会改变我们的爱情方式、交友方式或者人性。这一切不仅仅发生在我们与机器的直接互动中，而且发生在我们与他人的互动中。

耶鲁大学实验室里做的一些实验就是如此。在其中一个实验中，研究人员引导一小群人与人形机器人一起在虚拟世界中铺设铁轨。每个实验组由三个人和一个蓝白相间的小机器人组成，他们围坐在一张方桌旁，通过平板电脑完成任务。这个机器人被设定为偶尔会犯错误，并且会承认错误:“对不起，伙计们，这一轮我犯了错误。”“我知道这可能难以置信，但机器人也会犯错。”

结果证明，这个会作忏悔的笨拙机器人通过改善人类之间的沟通交流，帮助这些小组表现得更好。他们变得更放松，更健谈，安慰那些容易犯错的小组成员。与机器人只做平淡陈述的对照相比，有忏悔机器人的实验组成员之间合作得更好。

在另一项虚拟实验中，研究人员将4000名受试者分成20人左右的小组，并在小组内为每个人分配“朋友”；彼此之间的朋友关系形成了一个社交网络。然后，这些小组被分配了一项任务:每个人必须从三种颜色中选择一种，但是每个人所选择的颜色不能与被分配朋友所选色相同。在受试者不知情的情况下，研究人员为一些小组分配了一些被设定为偶尔会出错的机器人。实验显示，与这些机器人直接相关的人变得更加灵活，并且会避免陷入一个只适用于特定个人，但不适用于整个团队的解决方案。更重要的是，由此产生的灵活性会在整个小组中传播开来，甚至会影响到没有直接与机器进行交互的人。因此，分配有容易出错的智能程序的实验组始终优于那些没有出错智能程序的实验组，在表明，机器人有助于人类相互帮助。

这两项研究都表明，在所谓的“混合系统”中，也就是人与机器进行社交互动的系统中，合适的人工智能可以改善人与人之间的关系。其他研究结果也证实了这一点。例如人们在网上对他人发出谩骂，后政治学家凯文·芒格(Kevin Munger)指示特定种类的机器人进行干预。他指出，在某些情况下，机器人只是提醒谩骂者他们的目标是一个感情可能会受到伤害的人时，就能使谩骂者在一个多月的时间内不再攻击他人。

但是在我们的社会环境中加入人工智能也会使我们的行为不再那么有效率和道德。在另一个实验中，研究人员给了几千名受试者钱，让他们在多个回合的网络游戏中使用。在每一轮测试中，受试者被告知他们可以保留自己的钱，也可以将部分或全部钱捐给邻居。如果他们捐了钱，研究人员也会捐同样的钱给他们的邻居。在游戏初期，三分之二的人表现得无私。毕竟，他们意识到在第一轮对邻居慷慨可能会促使邻居在下一轮对他们慷慨，从而建立一种互惠准则。然而，从自私和短期的角度来看，最好的结果是保留自己的钱，并从邻居那里得到钱。在这个实验中，研人员发现在整个受试群体中加入一些假装人类玩家的自私机器人，就可以促使整个群体做出同样的自私行为。最终，参与实验的人彼此完全停止了合作。这些机器人就这样把一群慷慨的人变成了自私之徒。

合作是我们人类的一个重要特征，是社会生活必不可少的。信任和慷慨是区分成功和失败群体的关键。如果每个人都为了帮助群体而努力，那么都应该从中受益。然而，当这种行为失效时，公共利益的概念就消失了，每个人都会受到损害。人工智能可能会有效降低我们合作的能力，这一事实非常令人担忧。

我们已经遇到过现实世界中人工智能如何破坏真实世界人际关系的许多例子，而人工智能对社会产生简单影响这一事实每天都在我们身边上演。父母们看着自己的孩子对着Alexa或Siri等数字助理发出粗鲁的命令，开始担心这种粗鲁会渗入孩子对待他人的方式，或者担心孩子与人工智能机器的关系会干扰甚至抢占人际关系。麻省理工学院技术与社会专家雪莉·特克尔(Sherry Turkle)不久前指出，那些在人工智能环境中长大的孩子，可能不会有“同理心”。

随着数字助理变得无处不在，我们更习惯于和它们进行交谈，仿佛它们是有知觉的;朱迪思·舒列维兹(Judith Shulevitz)去年在相关文章中描述了我们中的一些人是如何开始把它们当作知己，甚至是朋友和治疗师。舒列维兹说，她自己向谷歌数字助理坦白了一些不会告诉丈夫的事情。如果我们能更自如地与电子设备亲密交谈，我们的婚姻和友情会发生什么样的变化呢?由于商业上的需要，设计师和程序员通常会设计出让我们感觉更好的设备，但这可能无助于我们进行自我反思。随着人工智能不断渗透进我们的生活，我们必须面对这样一种可能性：人工智能会抑制我们的情感，抑制我们与他人的深层联系，让我们彼此之间的关系变得不那么互惠，或者说更肤浅更自恋。

所有这些都可能以一种意想不到的方式改变人类社会。我们是否希望机器影响孩子们善良的天性？我们是否希望机器会影响成年人的性生活?

英国德蒙特福特大学(De Montfort University)人类学家凯瑟琳·理查森(Kathleen Richardson)就对后一个问题很担心。作为反对性爱机器人运动的主要人物，她警告说，性爱机器人会使人类失去人性，并可能导致用户远离真正的亲密关系。我们甚至可能会从把机器人当作满足性欲的工具，发展到以这种方式对待他人。其他观察家则认为机器人可以从根本上改善人类之间的性行为。

早在我们大多数人遇到如此亲密的人工智能难题之前，我们还会应对更多日常挑战。毕竟自动驾驶汽车的时代已经来临，这些车辆承诺将大大减少困扰人类驾驶员的疲劳和分心等问题，从而防止事故的发生。但是它们还会对人产生什么影响呢?驾驶是一种非常现代的社会互动方式，需要高度合作和社会协调。有人担心，自动驾驶汽车剥夺了人们行使这些能力的机会，可能会导致这种社交能力的萎缩。

这些车辆不仅将通过编程来接管驾驶职责，从而取代人类做出判断的权力，同时还将影响与它们没有直接接触的人类。例如，自动驾驶汽车以稳定不变的速度行驶一段时间后，驾驶员的专注度可能就会下降，反而增加了其接管驾驶时发生事故的可能性。或者，经验可能会证实，与完全符合交通法规的自动驾驶汽车并排行驶，实际上会提高人类驾驶员的表现。

不管怎样，如果我们不对这些社会溢出效应进行优先考虑，就不能不顾后果地推出新的人工智能形式。人类必须像为自动驾驶汽车技术开发硬件和软件那样，运用同样的努力和聪明才智来管理人工智能对汽车外部产生的潜在涟漪效应。毕竟要求车后安装刹车灯，不仅是为了车内人员的利益，而且主要是为了车后的其他人。

1985年，在艾萨克·阿西莫夫(Isaac Asimov)提出他的机器人定律大约40年后，他又在自己的清单上增加了一条:机器人永远不应该做任何可能伤害人类的事情。但他在如何评估这种危害方面遇到了困难。“人是一个具体的物体，”他后来写道，“对一个人的伤害是可以估计和判断的，但人性是一种抽象。”

特别关注社会溢出效应会有所帮助。其他领域的溢出效应导致了规则、法律和监督的要求。无论是污染水源的公司还是在办公楼里呼出二手烟的个人，一旦一些人的行为开始影响其他人，社会可能会介入。由于人工智能对人与人之间互动的影响是如此强烈而深远，而且发展迅速而广泛，在大规模部署之前必须系统地研究可能会出现什么样的效应，并讨论如何为了共同的人类利益来进行调节。

已经有一群不同的研究人员和实践者，比如说计算机科学家、工程师、动物学家和社会科学家等等聚集在一起开发“机器行为”领域，希望将人类对人工智能的理解建立在更坚实的理论和技术基础之上。在这个领域里，机器人不仅仅是人类制造的物品，而是一种新型的社会行为体。

一切迫在眉睫。在不远的将来，人工智能赋能的机器可能会通过编程或自主学习展现出与人类相比似乎奇怪的智能和行为形式。我们需要迅速将仅仅怪异的行为与真正威胁我们的行为区分开来。

人工智能最值得我们关注的是那些会真正影响人类社会生活核心的方面，因为这些核心特征使我们的物种在几千年的时间里得以生存延续。

启蒙哲学家托马斯·霍布斯(Thomas Hobbes)认为，人类需要一种集体协议，以防止我们变得杂乱无章。他错了。早在人类组建政府之前，进化就为人类装备了一套社会能力，使我们能够和平共处。在前人工智能时代，祖先遗传给我们的爱情、友谊、合作和教学能力继续帮助我们共同生活。

不幸的是，人类没有时间进化出与机器人相媲美的先天能力。因此，我们必须采取措施，确保他们能够与我们生活在一起，不受破坏。

当人工智能更全面地渗入人类生活时，我们可能还需要一种新的社会契约，一种与机器而不是与他人相处的契约。

往期推荐

政府工作报告中 科技圈必须知道的12件事

AI被吹上了天 但依然没4岁的小孩聪明

▲点击图片观看

孟晚舟起诉加拿大政府，任正非评论亮了！

- 加入社群吧 -

网易智能AI社群（AI芯片、医疗AI、金融AI、电商AI、自动驾驶、教育AI、AIoT、机器人等12个社群）火热招募中，对AI感兴趣的小伙伴，添加智能菌微信 kaiwu_club，说明身份即可加入。