两千名AI专家承诺抵制杀手机器人,哈萨比斯、马斯克积极响应

本文主要是介绍两千名AI专家承诺抵制杀手机器人,哈萨比斯、马斯克积极响应,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

640?wx_fmt=gif

关注网易智能,聚焦AI大事件,读懂下一个大时代!


640?wx_fmt=jpeg


【网易智能讯7月22日消息】包括谷歌旗下DeepMind的联合创始人和SpaceX的首席执行官在内的2400名人工智能科研人员签署宣言,承诺阻止致命的人工智能武器。


数千名专攻人工智能(AI)的科学家已经宣布,他们将不会参与开发或制造在自主状态下具备识别和攻击行为的人工智能机器人。谷歌DeepMind的杰米斯·哈萨比斯(Demis Hassabis)和美国火箭公司SpaceX的埃隆马斯克(Elon Musk)都在这项承诺的2400多名签署者之列。该承诺旨在阻止军事公司和国家执法机构建造致命的自动武器系统。


640?wx_fmt=jpeg


这一宣言的签署是人工智能领域的组织和科学家的最新举措,旨在强调将生死的决定权交给人工智能机器的危险。同时呼吁相关人士要未雨绸缪,禁止技术滥用,因为这可能会催生出新一代大规模杀伤性武器。


这一承诺是由波士顿的“生命未来研究所(Future of Life Institute)”组织策划的,它呼吁各国政府商定规范、法律和法规,这些规范、法律和法规将扼杀和有效禁止杀手机器人的发展。


在今天没有此类措施的情况下,签署者承诺“既不参与也不支持发展、制造、贸易或使用致命的自主武器”。超过150个与人工智能相关的公司和组织也加入了签署者的行列,这一承诺在前几日于瑞典斯德哥尔摩举行的国际人工智能联合会议(International Joint Conference)上宣布。


蒙特利尔学习算法研究所的人工智能先驱Yoshua Bengio在接受卫报采访时表示,如果这一承诺能够让那些制造自主武器的公司和军事组织蒙羞,公众舆论就会反对他们。“由于国际条约和公开羞辱,这种方法实际上适用于地雷,尽管像美国这样的主要国家没有签署禁止地雷的条约。美国公司已经停止制造地雷,”他说。Bengio也签署了承诺,表达了他对“致命的自主武器的强烈关注”。


军方是人工智能技术的最大资助者和采用者之一。有了先进的计算机系统,机器人可以在恶劣的地形上空飞行,在地面上航行,在海底巡逻。更先进的武器系统正在酝酿之中。周一,英国国防大臣加文·威廉姆森(Gavin Williamson)公布了一项20亿英镑的计划,计划购买一架新的英国皇家空军战斗机——暴风雨(Tempest),它将能够在没有飞行员的情况下飞行。


640?wx_fmt=jpeg


英国的大臣们表示,英国并没有发展出致命的自主武器系统,而且英国军队将永远对其部署的武器进行监督和控制。但活动人士警告说,人工智能和其他领域的快速发展意味着,现在可以制造出先进的武器,在未经人类控制者同意的情况下,识别、跟踪和射击人类目标。对许多研究人员来说,让机器来决定人类的生存和死亡,这超越了道德底线。


“我们需要把自主武器不被接受作为国际准则。人类必须永远拥有控制权,”悉尼新南威尔士大学的人工智能教授Toby Walsh说。“我们不能阻止一个意志坚定的人制造自主武器,就像我们不能阻止一个意志坚定的人制造化学武器一样,”他补充说,“但如果我们不希望流氓国家或恐怖分子轻易获得自主武器,我们必须确保武器公司不会公开出售这些武器。”


研究人员可以选择不去研究自主武器,但是其他人在他们发表的突破性进展上所拓展的事情实际上超出了他们的控制范围。英国兰卡斯特大学的另一位签署者、科学与技术人类学教授Lucy Suchman表示,尽管研究人员不能完全控制他们的工作成果如何被使用,但当他们有顾虑时,他们可以参与并进行干预。


她说:“如果我是一名签署了承诺的机器视觉研究人员,我将首先承诺追踪我的技术的后续使用,并公开反对他们的应用程序来实现自动化目标识别;其次,我会拒绝参与任何建议或直接帮助将这项技术整合到自主武器系统中。”


选自:The Guardian 

编译:网易智能 

参与:李擎


640?wx_fmt=gif

- 加入社群吧 -

网易智能AI社群(AI专家群、AI黑板报)火热招募中,对AI感兴趣的小伙伴,添加智能菌微信 kaiwu_club,说明身份即可加入。

640?wx_fmt=jpeg

这篇关于两千名AI专家承诺抵制杀手机器人,哈萨比斯、马斯克积极响应的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/203769

相关文章

Ilya-AI分享的他在OpenAI学习到的15个提示工程技巧

Ilya(不是本人,claude AI)在社交媒体上分享了他在OpenAI学习到的15个Prompt撰写技巧。 以下是详细的内容: 提示精确化:在编写提示时,力求表达清晰准确。清楚地阐述任务需求和概念定义至关重要。例:不用"分析文本",而用"判断这段话的情感倾向:积极、消极还是中性"。 快速迭代:善于快速连续调整提示。熟练的提示工程师能够灵活地进行多轮优化。例:从"总结文章"到"用

AI绘图怎么变现?想做点副业的小白必看!

在科技飞速发展的今天,AI绘图作为一种新兴技术,不仅改变了艺术创作的方式,也为创作者提供了多种变现途径。本文将详细探讨几种常见的AI绘图变现方式,帮助创作者更好地利用这一技术实现经济收益。 更多实操教程和AI绘画工具,可以扫描下方,免费获取 定制服务:个性化的创意商机 个性化定制 AI绘图技术能够根据用户需求生成个性化的头像、壁纸、插画等作品。例如,姓氏头像在电商平台上非常受欢迎,

从去中心化到智能化:Web3如何与AI共同塑造数字生态

在数字时代的演进中,Web3和人工智能(AI)正成为塑造未来互联网的两大核心力量。Web3的去中心化理念与AI的智能化技术,正相互交织,共同推动数字生态的变革。本文将探讨Web3与AI的融合如何改变数字世界,并展望这一新兴组合如何重塑我们的在线体验。 Web3的去中心化愿景 Web3代表了互联网的第三代发展,它基于去中心化的区块链技术,旨在创建一个开放、透明且用户主导的数字生态。不同于传统

AI一键生成 PPT

AI一键生成 PPT 操作步骤 作为一名打工人,是不是经常需要制作各种PPT来分享我的生活和想法。但是,你们知道,有时候灵感来了,时间却不够用了!😩直到我发现了Kimi AI——一个能够自动生成PPT的神奇助手!🌟 什么是Kimi? 一款月之暗面科技有限公司开发的AI办公工具,帮助用户快速生成高质量的演示文稿。 无论你是职场人士、学生还是教师,Kimi都能够为你的办公文

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

AI行业应用(不定期更新)

ChatPDF 可以让你上传一个 PDF 文件,然后针对这个 PDF 进行小结和提问。你可以把各种各样你要研究的分析报告交给它,快速获取到想要知道的信息。https://www.chatpdf.com/

【北交大信息所AI-Max2】使用方法

BJTU信息所集群AI_MAX2使用方法 使用的前提是预约到相应的算力卡,拥有登录权限的账号密码,一般为导师组共用一个。 有浏览器、ssh工具就可以。 1.新建集群Terminal 浏览器登陆10.126.62.75 (如果是1集群把75改成66) 交互式开发 执行器选Terminal 密码随便设一个(需记住) 工作空间:私有数据、全部文件 加速器选GeForce_RTX_2080_Ti

AI Toolkit + H100 GPU,一小时内微调最新热门文生图模型 FLUX

上个月,FLUX 席卷了互联网,这并非没有原因。他们声称优于 DALLE 3、Ideogram 和 Stable Diffusion 3 等模型,而这一点已被证明是有依据的。随着越来越多的流行图像生成工具(如 Stable Diffusion Web UI Forge 和 ComyUI)开始支持这些模型,FLUX 在 Stable Diffusion 领域的扩展将会持续下去。 自 FLU

AI基础 L9 Local Search II 局部搜索

Local Beam search 对于当前的所有k个状态,生成它们的所有可能后继状态。 检查生成的后继状态中是否有任何状态是解决方案。 如果所有后继状态都不是解决方案,则从所有后继状态中选择k个最佳状态。 当达到预设的迭代次数或满足某个终止条件时,算法停止。 — Choose k successors randomly, biased towards good ones — Close