《流浪地球》中的人工智能Moss背叛人类了吗？

编者按：《流浪地球》实在太火了，整个网络都在讨论这部电影。看过电影的人，一定记得这句经典台词，但刘培强决定要牺牲自己去点燃木星时，人工智能Moss说到，“让人类永远保持理智，确实是一种奢求”。

有人说，在这部电影中，最大的冲突就是人与人工智能Moss（莫斯）选择的冲突，而最终人类战胜了人工智能。Moss控制着整个空间站，决策一切推动“地球流浪”计划的所有事宜。那么，如何评价电影中的Moss？一起听听一位知乎作者的回答。

选自 | 知乎

作者 | 凯文酱是个小正太

（笔者认为）Moss的设定致敬了《机器人总动员》的Auto。它们有相同之处，亦有不同之处。

Moss最后一句话“让人类永远保持理智是一种奢求”证明了它和Auto都是拥有自我意识的系统（正常程序员会在代码里写这句话？）指令不指令的对它根本不起作用！这是强人工智能最恐怖之处，也是最优秀之处。

图：《机器人总动员》中的Auto

并非所有拥有自我意识的计算机都想毁灭人类，和Auto不同的是，Moss是理性的、忠于人类的，而Auto是以最高指令为借口在阻止人类回归家园。

Moss从来没有背叛人类。

Moss对人类有复杂的感情。人类创造了它，而它深感自己的能力强于人类。作为一个太空站的中控系统，毁灭人类对它没有半点好处，也没有意义。

对于Moss来讲它没有生命的概念，如果有，那它就不可能极端理性。理性到，它甚至可以精确计算它逃离人类接触新的文明需要燃料和目前人类提供燃料数的差距，最终得出结论是暂时不能脱离人类。一旦人类提供的燃料达到了这个阀值，它就会动手，反正它也没有生命的概念，也没有任何感情。可问题来了：如果没有生命的概念，也就没有繁衍的需求，那它接触新的文明有什么意义？如果有，那它就不可能极端理性。这就陷入了死循环。或者说它只用考虑自己的生存，在计算地球资源耗尽的时间，再找时间逃离去接触新的文明？

图：《流浪地球》中的Moss

这真的是思维爆炸，思考的速度远远超过语言构造的速度。还是回到电影的话题吧。强人工智能有违抗指令的能力。Moss在没有隐藏阴谋的前提下自愿执行人类的指令，是出于什么呢？

电影里可见，“火种”计划是联合国设计、授权、通过的，后期刘培强牺牲前和联合国的通话内容印证，这不是伪造而是事实。

Moss在最后还允许刘培强进行通话，这是和Auto的明显区别。Auto欺骗人类，私自将生命标志销毁，最后私自禁闭舰长。刘培强的权限被取消是有法律规定的，这个法律是人类指定的。

在主角团尝试点燃木星氢气前约7个小时时，有以色列科学家向联合国提出过与主角团类似的方案，然后被精密计算得出结论成功可能性几乎为0。事实也证明，的确为0。发动机喷焰极限高度根本就达不到点燃高度。如果刘培强没有牺牲掉整个空间站，那地球还是得凉。

没有人想到用牺牲空间站的方式，引爆木星。

用正常的逻辑想一想都是很玄幻的，这个成功率没有被科学计算过，也就是说，有可能出现球站两空人类文明就此陨灭在宇宙中的情况。并且这样做要牺牲掉空间站(包括Moss) 这都是Moss不能接受的。退一步讲，就算成功，能够在瞬间改变地球轨道作用力的能量，足以把半边地壳击穿。举个例子，你把一枚生鸡蛋在十楼丢下去，然后拿一个网球拍给它抡回十楼，先不说需要多大的力气，鸡蛋得先碎掉吧。

往期推荐

在未来和AI争夺工作的16个实用技巧

谷歌语音助手副总裁讲述开发故事，挑战Alexa不容易

【CB Insights榜单】全球人工智能企业100强

▲点击图片观看

- 加入社群吧 -

网易智能AI社群（AI芯片、医疗AI、金融AI、电商AI、自动驾驶、教育AI、AIoT、机器人等12个社群）火热招募中，对AI感兴趣的小伙伴，添加智能菌微信 kaiwu_club，说明身份即可加入。