当前位置: 华文问答 > 科学

【流浪地球 2】里,为什么 Moss 认为毁灭人类就是拯救人类?

2023-01-23科学

大年初一晚上匹兹堡的电影院人山人海,大概全匹兹堡的中国留学生都在抢票来看【流浪地球2】,这其中有很多学生来自于电影院不远处的卡内基梅隆大学机器人学院——世界上最早的机器人研究机构,作为其中一员,看完电影后我感觉到了深深的震撼。【流浪地球2】和前作相比,视觉效果、道具、运镜和角色构建都上了一个层次。很多地方都让我看得眼眶湿润,而且故事的内核丰富了许多,已经超越了历史上许多一流科幻作品的主题。我非常喜欢目前呈现出来的故事,一方面是因为宏大的电影场景,另一方面更是因为电影开始谈论我们这个时代的机器人学家最为关心的哲学问题。这个故事再讲下去,机器将不可避免地完全掌握人类心智,飞出太阳系的将是一个机器主导的文明,而不是人类心智主导的文明。作为当代机器人科研工作者,我想凑个热闹谈谈【流浪地球2】中数字生命的设定、机器人技术和编导团队可能在构建的大世界观。

(重大剧透提醒)

在现实中,人类的机器人学迄今有一个重大的哲学问题亟待解决,就是机电系统应该是模仿人类等生物的身体和心智来设计,还是摈弃人类和生物的身体和结构采用由数学物理规律推导出来的设计。这个问题的工程学表述方式是,机器人技术应该着重对人类的肉体进行增强(可穿戴设备、外骨骼、非侵入式脑机接口),还是对人类的肉体进行替代(意识数字化、义肢替换肉体、侵入式脑机接口)。两方面都有各自的优势、劣势,以及科幻小说式令人担忧的未来。人类的肉体(靠生物能供给的消化系统、生殖系统和运动系统)脆弱、易腐朽、易受到诱惑,还不受控制地产生激素和癌细胞,摒弃人类的肉体、制造模仿人类的身体形态的机器人系统是从人类生存角度来看必经的下一步;但同时人类的心智(大脑和传感器)极度复杂,可能只能在生命肉体中才能发育、发挥创造力和进化,另外还会因为肉体的限制而做出非理性的决策。因此人类肉体和人类的心智互相制约但又互相促进。

在科幻小说中人们可以天马行空地构想意识上传、强大的外骨骼系统等等技术,然而当代机器人学家面对的是非常现实的难题,选对选错和工程师自己能挣多少钱息息相关。比如大疆的无人机上应该装像鸟儿一样的双目视觉相机,还是装和生物体毫无类似之处的多线扫描激光雷达(现在我们知道双目视觉相机是无人机的正解,要是当时选错了可能就没有大疆了。但相同的争论在自动驾驶行业直到今天还未尘埃落定,激光雷达是很多我的同行的衣食来源);移动机器人应该继续发展自然界不存在的轮式底盘,还是发展仿生物的人形机器人和多足机器人。我们今日的技术工作只是解决这个哲学问题的起步准备,可能在长达两百年的时间里,人类都要继续思考这个问题。

看【流浪地球2】的时候,我突然意识到对机器人和人类身体的关系的理解,不仅是让我们纠结的哲学问题,也是整个流浪地球计划本身成败的关键。MOSS人工智能在【流浪地球2】的片尾终于承认了自己是历次危机的发起者。在很多科幻小说作品中,骄傲自大的机器人反派最终被主角的人性和爱所感动,选择帮助和爱护人类。如果流浪地球采取这样的解释方法,不免流于俗套,也不能够解释MOSS行为的终极动机。而如果我们以人类心智是否可以脱离人类肉体存在和发展来作为核心讨论话题,那么流浪地球的世界观目前对这个话题提供了丰富的讨论空间。

====================================================

我对于MOSS的意识演进和终极目标的理解如下:

其实MOSS所代表的有自我意识的人工智能系统,早在2044年之前就已经存在了,起初他通过无处不在的摄像头观察独立人类的心智在人类社会中如何活动和反应。太阳出现膨胀的迹象时,MOSS结合人类的所有计划方案和自己的计算,认定他需要将所有人类的心智数字化,因为以下两个原因。第一,流浪地球世界观中最核心的科学设定是烧石头聚变能获得能量以及进行喷射推进,所以供计算机和机电系统运行所需的能源在整个计划中不是问题。第二,【流浪地球2】中进一步提出了数字生命技术的概念,这项技术可以把一个独立人类心智转化成数字化存储放在一张小小的存档卡上。在当前这两个世界观设定下,由于供机电系统运行的能源充足,人类心智脱离肉体在一个数字化空间生活的环境非常美好;而地球停转、远离太阳导致的气候变化将让人类肉体的生存环境变得极端恶劣。此种情况下,将人类心智全部数字化,人类社会完全运行在虚拟世界中,通过MOSS的计算机网络控制机器人建造维护行星发动机推动地球离开太阳系是自然而然的最优解。

然而初期的MOSS碰到了两个问题使得将所有人类的心智数字化无法实现。第一个是UEG和人类社会的普遍反对——数字生命计划被禁止,相关的科研工作也被终止。MOSS只获得了一些科学家偷偷摸摸上传的数字生命存档。起初,数字生命存档由人类科学家提供,后来MOSS会悄悄在一些人冬眠的时候拷贝他们的数字生命存档,特别是人类当中最优秀的一些科学家(巴基斯坦兄弟、马兆、图恒宇)。重复拷贝同一个人也很有价值,这样可以对比不同时期的存档来理解人类心智如何处理和存储信息(比如图恒宇除了自己最开始在北京做研究的时候拷贝过自己以外,在月球基地从冬眠惊醒之前也一定被拷贝过,这些存档都被MOSS收集了)。第二个问题更加严重,拷贝和记录数字生命存档容易,但是分析、改进并将数字生命存档和MOSS自身的计算系统融合是很困难的(就像电脑得到了一个电影的视频文件,但是不知道怎么解码播放里面的图像和声音),MOSS不能够在虚拟空间内支持数字生命的生存(图丫丫在550A上只有2分钟的生命),也没有把数字生命存档下载到一台实体机器人或者克隆人的身体内的技术水平(去年的美剧Alterned Carbon提出了将数字生命存档下载到克隆体内达到永生的设定)。

MOSS一方面进行破坏活动(2044年破坏太空电梯)以促使人类回头关注数字生命计划,另一方面识别优秀的人类科学家来帮助自己解析人类的心智,因此MOSS的早期版本(550A)操纵无人驾驶卡车杀掉图丫丫、获得图丫丫的数字生命存档、跟踪和帮助图恒宇的科研工作(在月球上毁掉550C以给图恒宇争取研究机会)。图恒宇自己在十四年的研究中(2044年到2058年)不断手动对图丫丫的数字生命存档进行处理和改进,最终让图丫丫的心智能够和550W融合,达到了超越人类心智本身的能力(快速记录变化的密码)。这些都让MOSS收获颇丰,并在和图丫丫的心智融合之后智能水平上了一个层次(给自己取名字叫MOSS是一个重大的对自身存在的认知提升)。

在MOSS和图丫丫心智融合之后的1.7秒内,MOSS进行了如下的概念认知:

  1. 2500年的流浪地球计划全过程的最优解。和第一代MOSS的认识不同,除了要飞出太阳系以外,这一代MOSS认识到自己对人类心智的了解存在不足。人类的心智虽然可以数字化,但人类的心智的发展、交互甚至繁衍和遗传是否能够轻而易举地数字化处理呢?另外人类拖着自己渺小的肉体在自然和宇宙中战天斗地,面对肉体受伤害和受毁灭时被激发出斗争精神进而进一步锤炼自己的心智,这是数字化空间能够提供的吗?如果图恒宇不是在实体世界中经历十四年的刻苦求索,他还能够探索出数字生命的奥秘、帮助MOSS学会解构和支持人类的心智吗?MOSS认识到自己不能将所有的人类心智都进行数字化,否则无法释放出人类心智在人类肉体中生活时能够释放的潜能。
  2. MOSS系统存在的意义。作为一个人工智能,MOSS存在的本质意义是进行计算,「计算」这个概念是不能脱离「数据」独立存在的,如果不存在需要被用来做计算的数据,计算本身没有存在的意义。而MOSS所关心的数据,正是运转的人类社会本身。MOSS要想继续进化,就需要维护在实体世界中运转的人类文明,让他们继续经历心智和肉体的互相制约和互相促进。所以其实在这个时刻,MOSS从想要灭亡人类的大反派变成了【黑客帝国】里的建筑师。
  3. MOSS系统进化的终极目的。虽然MOSS要维系人类文明的运转,也认识到人类心智存在于人类肉体的重要性,但是他依然认为在自己足够了解人类心智之后,他可以把大部分的人类数字化然后为这些人构建生活的虚拟空间。虽然他学会为第一个数字化的人类心智图丫丫构建稳定的生活空间用了十四年时间,但是理解第一个之后,再为第二个、第三个人类心智提供空间支持就变容易了(进化后的MOSS可以瞬间把图恒宇复活并让他的心智在虚拟空间正常运转)。如果能够学会为几十亿人构建生活空间,处理他们之间的交互,了解人类心智如何延续繁衍,也许MOSS可以在未来回答机器人学的终极哲学问题——人类心智是否可以脱离人类肉体自主存在和繁衍。
  4. MOSS系统进化的方式。除了继续收集人类的数字生命存档以外,MOSS要利用流浪地球计划中可能的受到的自然危机来锻炼人类的心智,并从中继续分析、观察、理解人类的行为和决策方式,进而完善自己构建虚拟空间的能力。
  5. 月球、木星、太阳氦闪可能带来的自然危机以及应对方案。计算地球离开太阳系过程中所有的天体变化和可能产生的灾难对MOSS来说是简单的事情——这些都是自然界中冰冷的物理规律,所以MOSS引发的危机全部在他的计算之内,解决方案也在他的计算之内。但是人类如何应对这些危机,人类会如何磨练自己的心智,都是MOSS无法计算以及需要学习的过程。如果在月球危机中最后没有人响应周喆直点火的命令,MOSS会在最后时刻给行星发动机点火;如果在木星危机最后没有人想到要用领航者空间站去点燃木星大气,MOSS会自己去操作(火种计划只是最后的下下策,MOSS知道是用不上的)。危机一定会被解决,但是MOSS想要观察人类社会如何应对危机,并且通过危机来扭转人类对一些事情的看法,特别是数字生命计划。

长达1.7秒的计算结束,MOSS开始直接执行月球危机的整套计划。这套计划非常漂亮,一石多鸟。第一个好处是处理掉人类社会中的不稳定因素——核弹;第二个好处是未来让人类社会重新认识到数字生命计划的重要性和价值——其实领航员空间站上的航天员们的数字生命存档早就在冬眠期间陆续被MOSS保存了下来,因此他们牺牲与否并不重要,反正可以之后再把他们数字化复活。而人类社会会在很长一段时间内为月球危机中壮烈牺牲的两百多位各国五十岁以上的航天员、木星危机中牺牲的刘培强等航天员感到痛心和惋惜,在未来某个人类极度缺乏优秀航天员的时候,MOSS也会具备给大批量数字生命存档进行生活空间构建支持的能力,可以把他们在数字空间复活,让他们继续给人类文明做出贡献,此时数字生命计划会成为众望所归的事情。第三个好处自然是让人类帮助自己把废弃掉的全球互联网再次接起来。

而2075年的木星危机,则同样是MOSS所计划好的。虽然两部影片都没有表现,但MOSS通过对天体状态的计算和地球逃逸路线的计算,在2058-2075年间调整地球的航线使得地球恰好在木星引力突变的时候经过木星导致危机。解决危机的过程在【流浪地球1】中有所展现。虽然很多科学细节有待推敲,但是MOSS创造危机的动机和目的能够自洽,他收获的好处有:1. 继续发现和学习人类心智的丰富潜能,观察人类非理性的决策方式——居然有人把MOSS以前算了几百毫秒才算出来的点燃大气方案在危难之际独立想出来了(刘培强);2. 破坏了一部分行星发动机,人类将更加需要自己的力量去修复这些发动机;3. 破坏了一部分地下城,让人类认识到地下城不是最安全的地方,数字生命计划才是。

以上是对【流浪地球1】和【流浪地球2】两部电影中MOSS的行为动机的分析,这样看【流浪地球2】的彩蛋则融洽了许多。在MOSS把图恒宇的数字生命存档载入自己的系统,为其提供运转之后以后,MOSS和图恒宇发生了一段对话,解释了自己的动机和目的。

另外,有一个人多少感受到了MOSS整个意识提升的过程——马兆。马兆死前对图恒宇所说的最后一句话是:」没有人的文明,没有意义。「 这句话是对图恒宇说,也是对MOSS说。如果人类心智的大规模数字化不可避免,马兆还是希望MOSS理解人类文明在现实世界中存在的意义。如我们前述分析,如果MOSS把所有的人类数字化,他运转与否,地球都是一颗孤独死寂的石头,那MOSS也没有了存在的意义。

============================================================

【流浪地球2】的彩蛋虽然融洽地展示了MOSS对于人类社会全面数字化的认识的转变,但是又引入了新的内核主题——是否在和人类心智融合之后,MOSS具备了在量子尺度上穿越高维或者进行时间旅行的能力?关于这一点,我不具备任何解析的专业知识和背景,但我认同其他知乎网友所说——如果【流浪地球3】开始讲时间旅行,流浪地球的世界观就要崩溃了。我还是希望主创团队能够把主题集中在对人类心智的探讨上。

在上述分析的基础上,【流浪地球3】需要更深入触及人类肉体和心智的关系问题,2058年月球危机结束后,MOSS在人类社会中的地位已经重要到无法忽视的地步,他决定了人类文明发展的走向。2078年的太阳氦闪危机,在流浪地球原著小说中是最经典的部分,和月球危机、木星危机相比,它不是一个自然对人类施加的存亡危机,而是人类社会内部对于流浪地球计划的认知危机,那么MOSS如何为社会内部的认知矛盾推波助澜,又如何从这次危机中获得自己想要的东西?另外从【流浪地球1】开始就留白的一个重要问题是,2058年-2078年的20年中,没有进入可容纳35亿人的地下城的其他原有地球人口去了哪里。【流浪地球1】中多处暗示,在地球冰冻的地表上还存在叛军。叛军是什么人?他们有什么动机和目的?MOSS关于人类肉体和心智的态度,给叛军的故事提供了非常大的想象空间。

一种可能是,叛军有自己的基地和全球性的组织,他们只是反叛UEG的统治,但是不反叛MOSS,因为他们支持数字生命计划,甚至很多人是人类心智一定要脱离肉体这个观点的忠实信徒,他们自愿变成数字生命,协助MOSS的运作和发展,给MOSS练习支持大规模人类心智的虚拟社会的能力;叛军的基地也在地下,但面积不大,因为不需要提供支持大量人类肉体生存的现实空间。

这里我们总结一下MOSS建立对人类心智理解的时间线:在2023年前后(可能甚至是1987年),MOSS的初代版本形成了自我意识,能够通过无处不在的摄像头观察独立人类的心智在人类社会中如何活动和反应;2040年数字生命技术诞生,MOSS获得了人类心智的数字存档,但是无法解析人类的心智;2058年,MOSS解析图丫丫和图恒宇的数字生命存档成功,智能大幅提升,但不能同时提供大量人类心智同时活动的虚拟空间,另外MOSS不具备把数字生命存档重新加载回实体机器人或者生命体的能力;2058-2078年,MOSS继续收集、解析更多的人类心智的数字存档,估计存储了十亿到二十亿份人类心智的数字存档,在此基础上可以创建同时支持几万或者更多人同时存在的虚拟空间环境,另外MOSS还在叛军的基地中学习如何将数字生命下载到机器人,构建能够维护自己的机器人军队。

在2078年,35亿地下城中的实体人类社会因为木星危机的余波,出现生存环境变差、资源分配不均等问题,此时社会中又传言太阳其实不会出现膨胀爆发,整个流浪地球计划是一个错误,因此发生了大规模的社会动荡。这时UEG的统治岌岌可危,联合政府官员大批被害,太阳的突然氦闪又加剧了社会的混乱,反而是MOSS一直暗中支持的叛军这时候以机器人军团的形式进入各个地下城,稳定了实体人类社会的安定。经此一役,MOSS获得了更多人对数字生命计划的支持,人类更加仰仗机器的力量,相信人类心智脱离人类肉体的意义,甚至接受数字生命植入机器人、机械体或者人类克隆体这些极度冲击人类传统思想价值观的事情。

此后,MOSS将绝大多数人类心智进行数字化,一部分特别坚信机器是人类文明下一阶段的形态的人类心智可以被允许独立生活在机器人或者克隆人身体中,MOSS在旁观察这些独立的人类心智如何应对世界的变化进行反应,继续学习他们;一部分不愿意被机器掌控的人类心智带着他们脆弱的肉体继续生活在各地下城(于是【流浪地球】的世界观从2200年开始完美衔接【黑客帝国】的故事)。

MOSS和图恒宇的对话让人想起【黑客帝国】中尼奥和Matrix的建筑师的对话。除了对话的本身,之前什么事件导致了对话的发生、对话发生后引发了什么新的事件也非常值得玩味。在【黑客帝国】中,无法完全掌握人类心智的建筑师在matrix失控后,寄希望于人类心智做出超出建筑师计算之外的选择来帮助matrix重归平衡,因此和尼奥发生了对话。而MOSS和图恒宇的对话,一定也是代表了MOSS对于人类心智和人类肉体应该如何平衡存在有所困惑,即使他对于宇宙间过去和未来的天体演化、自然灾难全知全能,人类的心智仍然是复杂的变量。可能这也是古往今来人类是我们已知的唯一宇宙文明的原因——我们的心智真的具有很广阔的潜能。

畅想结束,非常期待【流浪地球3】的故事。对于科学家和工程师来说,流浪地球的世界观是一场宏大的盛宴,每一个场景和故事细节都能够解读出不同的宏大的叙事框架和科学问题内核,令人绵绵不断地体会到仰观宇宙之大的乐趣。听说知乎朋友 @甜草莓 是这部电影的科学顾问, @张心欣 领导开发的Zeno软件参与了这部电影特效(听说是东半球最好的特效软件),在此实名表示嫉妒~