智源研究院与剑桥大学、中科院自动化所、北大学者共同撰文并发布《克服人工智能伦理与治理的跨文化合作阻碍》...

为促进人工智能伦理与治理的国际合作，北京智源人工智能研究院、剑桥大学、中科院自动化所中英人工智能伦理与治理研究中心、北京大学相关学者合作撰文《克服人工智能伦理与治理的跨文化合作阻碍》，倡导推动跨文化背景下的人工智能伦理与治理的全球协作与创新。文章日前在线发表于《Philosophy and Technology》期刊，北京智源人工智能研究院人工智能伦理与安全研究中心、中科院中英人工智能伦理与治理研究中心组织翻译，并作为《人工智能伦理、治理与可持续发展译丛》文献第1期发布文章中文版。

译丛引言

人工智能伦理与治理关乎全球人工智能发展与创新的方向与未来。将人工智能作为使能技术推动人类、社会、生态及全球可持续发展是人类进行人工智能技术创新的共同愿景。在这个过程中，来自各个国家、政府间组织、国际组织的人工智能伦理与治理工作通过学术机构、产业、政府等以各种方式积极推动相关原则、政策、标准、法律的制定、技术与社会落地。虽然来自各个国家、组织的努力是在不同文化背景下建立的，但是文化的差异恰恰提供给我们思考问题的不同视角，和相互学习与借鉴的机会。如《论语》中有言“君子和而不同”。建立跨文化互信是全球和谐发展的基石。人工智能伦理、治理与可持续发展将是全球科技、社会领域的持续性重要议题。为此，北京智源人工智能研究院人工智能伦理与安全研究中心携手中国科学院自动化研究所中英人工智能伦理与治理研究中心等单位共同发起《人工智能伦理、治理与可持续发展 译丛》，将人工智能伦理与治理、可持续发展领域的重要文献进行遴选，组织翻译，并介绍给全球读者。期待从跨文化、跨语言的交流中各自有所裨益，促进伴随技术发展的文化交流，推动全球人工智能与人类未来的和谐发展。

曾毅

北京智源人工智能研究院人工智能伦理与安全研究中心 主任

中科院自动化所中英人工智能伦理与治理研究中心 联合主任

克服人工智能伦理与治理的跨文化合作阻碍

文章作者

Seán S. ÓhÉigeartaigh¹,², Jess Whittlestone¹, Yang Liu¹,², 曾毅²,³, 刘哲²,⁴ 

1. 剑桥大学Leverhulme智能未来研究中心， 英国

2. 中英人工智能伦理与治理研究中心，中国

3. 北京智源人工智能研究院人工智能伦理与安全研究中心，中国

4. 北京大学哲学与人类未来研究中心，中国

说明

本文英文版2020年5月15日在线发表于《Philosophy and Technology》期刊，英文原文可通过https://link.springer.com/article/10.1007/s13347-020-00402-x进行访问。本文中文译文由北京智源人工智能研究院人工智能伦理与安全研究中心及中国科学院自动化研究所中英人工智能伦理与治理研究中心组织翻译。本文责任作者联络方式(Seán S. ÓhÉigeartaigh so348@cam.ac.uk)，本文两位国内作者联络方式：曾毅(yi.zeng@ia.ac.cn),刘哲(liu.zhe@pku.edu.cn)。下文是中文版全文的部分介绍，获取全文请参考文末链接。

主要内容简介

实现人工智能对全球有益需在人工智能伦理标准与治理的诸多相关领域达成国际合作，同时保证文化观与文化理念的多样性。当前，由于文化间信任缺失及跨地域合作的现实挑战等因素，实现这一目标还有诸多阻碍。欧洲、北美地区与东亚地区的合作将在人工智能伦理与治理发展上产生重大影响，因此本文主要探讨以上地区在开展合作过程中所面临的障碍。本文认为扩大基于人工智能伦理及治理的跨文化合作前景可观，且有因可循。人们往往低估不同文化或地区间误解的影响，但其实这些误解会瓦解跨文化信任，甚至导致根本分歧。然而，即便存在根本区别，也并不意味着跨文化合作无法有效推进，原因如下：

（1）合作并不代表着需要在人工智能所有相关领域达成统一原则或标准；

（2）尽管对某些概念性的价值观或原则存在分歧，各方也依旧可能在实际问题上达成一致。

本文相信，在促进人工智能伦理以及治理方面的跨文化合作中，学术界扮演的作用至关重要，包括建立相互了解的深厚基础以及阐明何时有必要且有可能求同存异。本文对实际行动与方案也提出了相关建议，包括翻译核心文件、发表核心文件多语种版本，研究人员交流项目，以及推进与跨文化话题相关的学术研究发展。

跨文化合作的重要性

(1）应当确保人工智能可以实现全球社会效益，共享某个地区的先进技术从而带动其他国家的发展，并确保社会共同进步且人工智能为各个地区带来一致的积极效益，要实现上述目标，合作必不可少。

(2）通过合作，世界各地的研究者可以共享专业知识、资源以及实践范例。由此可以更早实现有益人工智能的应用，也可以合理处理潜在的伦理问题以及关键性安全问题。

(3）如果缺失相应合作，可能会导致国家或不同商业生态系统间的竞争压力，从而在安全、伦理、以及人工智能社会效益发展等方面的发展投入有所缺失。（Askell et al.，2019；Ying，2019）。

(4）国际合作的重要性也体现在诸多实际因素上，如为确保跨越国家和地区界限的人工智能应用（比如人工智能在主要搜索引擎以及智能驾驶领域的应用）能够有效融入不同监管环境，并与其他地区实现科技互联（Cihon，2019）。

克服合作阻碍

实现人工智能伦理与治理的跨文化合作困难重重，但本文认为仍有推进进程的可行方案，且当下并不需要解决更深刻的问题，例如无需在所有基础伦理与哲学问题上寻求不同文化间的共识，也无需当即解决国家间数十年以来的政治矛盾。

• 建立深度相互理解，包括围绕分歧达成共识

对于人工智能伦理与治理的未来发展而言，国家间的不信任是一个严峻问题。本文所指的不信任一定程度上由相互间的误解与错误认知引起。因此，为建立更牢固的跨文化信任，首先要建立正确认知、消除误解，增进不同文化与国家之间的互相理解。长久以来，国家间的误解已然根深蒂固，为了建立更加牢固的跨文化合作，我们首先需要认清与人工智能伦理联系紧密的误解，在争议集中点以及最能影响治理方案的争议达成相互理解。在此过程中，需要明确伦理上的分歧，而不是治理方面的分歧。因为在某些情况下，虽然不同群体各具伦理观点，但也仍会在某些治理准则上达成一致。这一点我们会在后文进行讨论。这样做也利于区分与人工智能直接相关的误解（比如其他国家的科技投资或者数据保护法），以及化解更广泛的社会、政治、哲学等与人工智能间接相关的误解，毕竟不同的问题需要不同的对策。

• 求同存异建立合作途径

人工智能伦理、治理以及更广泛社会问题上的分歧也许很难根除，但这并不影响达成共识及合作。如前所述，人工智能伦理及治理面临的关键挑战是明确准则、标准以及制度达成跨文化共识尤为重要的领域，这些领域还需容纳或鼓励不同的理解以及方法。这一挑战本身就需要通过跨文化合作解决。该挑战所依据的信息来源于不同文化背景下对人工智能影响的理解，以及不同群体的需求与愿望。即便人们的根本观点或抽象观点持不同意见，但对于如何解决具体问题往往会达成一致意见。这一点是执法的关键所在，对于广义上的多元社会也一样重要。多位学者在关于跨文化信息伦理的论述中提到旨在达成“重叠共识”的相关概念，即不同群体或者文化体支持同一套规范或实践指导方针的出发点可能不尽相同。《新一代人工智能治理原则——发展负责任的人工智能》中便阐述了上述对策，并提出：“开展国际对话与合作，在充分尊重各国人工智能治理原则和实践的前提下，推动形成具有广泛共识的国际人工智能治理框架和标准规范”。与就共同认同的根本价值观达成国际共识相比，更为重要的是探索在规范及实践性指导方针方面存在重叠共识的领域，从而确保人工智能对人类有益。

• 在实践中落实原则

理论上可以促进互相理解、达成治理方法共识之处也可能遭到反对，反对者认为在实践中影响人工智能的发展及应用比较困难，因为要达成这样的共识必须影响大国与实力雄厚的公司的行为，而这些国家或公司的合作意愿并不强烈。国际学术界及民间团体的努力有助于规范原则，为日后制定更具约束力的法规提供了坚实基础。例如，欧盟委员会发布的《人工智能白皮书——欧洲追求卓越和信任的方法》及其落地工作是一个有益的实例。

建议

学术界在支持人工智能伦理和治理的跨文化合作中发挥着重要作用，学术研究可以探索亟需合作的领域以及合作类型，制定方案可以克服更多合作中的实践障碍。本文提出了许多问题，需要不同领域的学术专家进行解答，问题包括：阻碍区域间合作的最大误解为何？何处需要基于人工智能伦理和治理的国际协议？在保留伦理问题分歧的同时，如何对具体的治理标准达成一致？

以下建议指出了学术中心、研究机构和研究人员可以采取的若干步骤，从而促进基于人工智能伦理和治理的跨文化理解与合作。在这些领域中，部分优质项目已经进入正轨。然而，本文认为人工智能在新领域和新地区的应用速度值得关注，呼吁学术界加强重视在更广泛的伦理和治理研究项目中建立跨文化桥梁，并将跨文化专业知识纳入其中。

• 制定基于跨文化合作的人工智能伦理及治理研究议程。提升跨文化合作研究项目对于建立支持国际政策合作的国际研究社群而言至关重要。符合此类合作要求的研究项目应进行比较性、前瞻性的实践，探索在不同文化中对于人工智能社会影响的积极愿景和突出担忧有何不同。这有助于形成国际化视野，明确人工智能发展中应当达成或避免的方面，指导关于伦理和治理框架的实际讨论。达成共识很可能可以力挽狂澜，安全与保障是全球人类文化的基础，因此制定协议、规避文化威胁成为更容易着手的切入点。包容根本或抽象伦理问题分歧，在具体案例、决策及治理标准上达成共识。然而，本文认为重视积极愿景也尤为重要。跨文化学者协力打造人类共享的美好未来，也是一种深入研究共同价值观中细微差别的良策。

• 翻译关键论文及报告。与其他科学领域相同，语言也是阻碍人工智能发展、治理及伦理的跨文化理解的主要实际障碍。因此，若能将人工智能伦理与治理以及人工智能研究领域蓬勃发展的著述翻译成多语版本，则将创造极大价值。虽然很多亚洲人工智能领域的领先学者能够熟练运用英语，但是不具备此能力的学者仍占多数，掌握中文普通话或者日语的西方学者更是少之又少。提供文章、报道的多语种高质量翻译版本也体现出一种尊重及参与跨文化交流的意愿，可能会鼓励进一步合作。此外，上文论述的一些误解与其他地区学者理解、引用某地区主要文献的方式也密切相关。西方媒体将中国于2017年发布的《新一代人工智能发展规划》描述为中国为在人工智能经济与策略领域巩固全球主导地位的手段。但对中国而言，国家人工智能发展目标主要是出于中国经济与社会的发展需求（中国国务院 ，2017），而不一定是国际竞争的优势。有些对于关键术语及要点的不当翻译造成了误解。例如，该《规划》的中文原文指出“中国力争到2030年成为世界主要人工智能创新中心” 。然而有些英文译文将此句翻译为中国即将成为“世界最主要的人工智能创新中心”。随后，谷歌母公司Alphabet前任执行董事Eric Schmidt进而将这句话理解并表述为“到2030年，中国将会主宰人工智能产业。真的是这样吗？这反正是（中国）政府说的。”。虽然从某种意义上来说这句话的措辞并未经历过大的变化，但是这句话毕竟承载着重要寓意。原文中的措辞较为婉转地表达了中国的领导能力和发展进程，而非国际霸主的地位。重要文件的多语种高质量翻译版本可以让学者辨别语言与上下文的细微差别，而这些信息很可能在转述中有所缺失。

• 确保主要人工智能研究会议、伦理及治理会议在不同大洲轮流召开。为了提高人工智能发展、伦理及治理的全球参与度，本文建议围绕这些话题的主要会议及论坛应当在不同大洲轮流召开。

• 建立博士生及博士后联合和/或交换项目。在不同文化背景下的研究人员职业生涯初期鼓励其参与跨文化合作将有助于加强合作和相互理解，推进研究进程。

局限与未来方向

本文认为学术界在推进人工智能伦理及治理的跨文化合作中发挥着重要作用。无需消除所有基本价值观差异即可有效建立基于相互理解与合作的社群，并且最重要的是减少文化体间的误会与误解。笔者们也意识到，本文的建议无法完全消除跨文化合作的障碍，未来还需要投入诸多努力以确保人工智能对全球有益。本文将简要点明指导这一目标的两个较为宽泛的未来研究方向。

• 细致分析跨文化合作的障碍，尤其是分析与权力分配、政治矛盾相关的内容。历史成功案例的分析表明，基于人工智能伦理及治理的跨文化举措可能在很大程度上影响实践中准则、标准和法规的制定，但在实施和执行层面仍然存在许多本文没有谈及的障碍。未来的研究可以回顾历史，探索过去成功影响全球性准则及制度的事件发生在哪些时期、如何发生。这样的研究将具有重大价值。

• 考虑未来强大的人工智能系统在跨文化合作上遇到的挑战。人工智能的未来发展可能为全球合作带来更大规模的全新挑战，一些学者也提出，人工智能的未来发展可能会像工业革命或农业革命一样产生变革性的影响。如果缺失严谨的全球方向把控，这种技术进步将导致技术领先的国家和落后的国家之间产生前所未有的鸿沟，体现于财富和权力的不平等之上。另一些学者的研究更加面向未来，提出开发具有超级人工智能系统的可能性。如果不考虑后果和安全性，这种系统的强大功能可能会对人类文明构成灾难性的风险。就共同价值观和原则达成全球共识、设计尊重多元价值观的系统已经成为了当务之急。

结语

从实际的角度而言，国际人工智能研究和人工智能伦理及治理团体必须仔细思考组织的活动如何支持全球合作，或是如何促进对不同地区社会观点和需求的理解。广泛的跨文化研究合作与交流、不同地区举办的会议以及多语种刊物有助于化解合作障碍、化解不同观点和共同目标的理解障碍。如今政治风向愈加偏向孤立主义，研究人员跨越国家和文化鸿沟、致力在全球范围内实现有益的人工智能显得尤为重要。

中文版全文下载（可点击「阅读原文」查看）：

http://attachment.baai.ac.cn/share/aies/cn-overcoming-barriers-to-cross-cultural-cooperation-in-ai-ethics-and-governance-2020-05-26.pdf

参考文献请见论文完整版。