人工智能革命——人类的永生或灭绝（9）

[美]蒂姆•厄本 作 黄菁 编译

人工智能可以为我们做些什么

拥有了超级智能和超级智能创造出的一切技术，ASI有可能将解决掉人类世界的所有问题。全球变暖？首先，ASI会找到更优越的能源生成途径，不再使用化石燃料，从而终止二氧化碳的排放。接着使用革新手段，去除大气中过量的二氧化碳。癌症和其他疾病？对ASI来说不是问题——医疗卫生业将会经历超出想象的革命。世界性饥饿？ASI可以使用纳米技术，从无到有制造出一块与真肉的分子结构完全相同的肉——换句话说，就是一块真肉。纳米技术可以将一堆垃圾变为一大桶鲜肉或其他食物（可能不是原本的形状——想像一下，一个巨大的立方体苹果），然后使用超先进的交通将这些食物配送到世界各地。当然，这对动物来说也很棒，它们再也不用被人类宰杀了。ASI还能做很多其他事情，挽救濒危物种，甚至利用残存的DNA将已经灭绝的物种复活。ASI甚至还能解决我们最复杂的宏观问题——我们关于经济该如何运行、如何促进国际贸易的争议，乃至我们在哲学或伦理学领域最晦涩的争论——对ASI而言，解决办法都显而易见。

但ASI能为我们做的事中，有一件是如此诱人，对它的阅读，扭转了我对已知事物的所有看法：

ASI能让我们战胜死亡！

几个月前，我还曾提到我很嫉妒那些潜在的、已经实现永生的高级文明。完全没料到，几个月后我就会写一篇帖子，真真正正地让我相信，同样的事，在我的有生之年人类也能做到。但是研读人工智能会让你对自己原本认为很确定的事情，作出重新审视——包括你对死亡的概念。

进化没什么好理由为我们增寿。对进化来讲，我们能活到繁殖后代、并把孩子们带到能自我养活的岁数就足够了——以进化的观点来看，能活30多岁，物种就能延续并兴旺，所以自然选择过程没有理由去喜欢那些倾向于更长寿命的基因突变。因而，我们正如威廉•巴特勒•叶芝（W.B. Yeats）描述的那样，“灵魂依附于濒死的肉体”。实在不怎么有趣。

而且因为过去所有人最后都死了，我们都在“死亡和纳税逃不掉”的假设下生活，认为死亡不可避免。我们想象着老去和时光一样——都在向前流逝，你却无力挽留。但那个假设是错的。理查德•费曼写道：

最非凡的事情中，有一件是：在一切生物科学里，都找不到死亡必然性的线索。如果你说我们想要做出永动机，在我们已知的物理学规律中，这要么完全不可能，要么规律是错误的。但在生物学中，我们仍未找到表明死亡不可避免的任何证据。这启发了我：死亡并非是不可避免的。生物学家们会发现困扰我们的到底是什么，这种可怕的通病、或人类身体的短暂性将被治愈，只不过时间早晚而已。

事实上，衰老并没有和时间绑定。时间会流逝，衰老却没有这个必要。只要你考虑一下，它还是有道理的。一切衰老都源自身体物理材料的损耗，一辆车久而久之的磨损也是如此——但它就老了吗？只要车的部件发生损耗，我们就对它进行完美修理或是更换磨损部件，这车就能一直开下去。人类身体也没有什么不同——只不过复杂很多而已。

科兹威尔谈到了在血液中连着wi-fi的智能纳米机器人，可以为人们的健康执行无数的任务，包括反复维修或更换人体任何器官中的老化细胞。如果该程序能得到完善（或是聪明得多的ASI能想出完善的方法来），就不仅能够维持机体健康，还能够对抗衰老。如果我们掌握了这项技术，那么60岁和30岁身体的不同，只是可被扭转的物质上的不同罢了。ASI可以造一台“年龄刷新机”，60岁的人走进去，拥有30岁身体和皮肤的人走出来。聪明的ASI甚至还能想出办法，在不影响大脑数据（个性、记忆等）的前提下，恢复正在变糊涂的大脑。90岁的痴呆老人走进“年龄刷新机”，出来时机智敏锐，可以开始一段崭新的职业生涯。有点荒唐——可身体只不过是一堆原子，想必ASI是能轻易操控各种原子结构的——所以，也并非荒诞不经。科兹威尔接着更进一步：他相信日后身体里会用上越来越多的人造材料。一开始，会是人体器官被超先进的机械器官所取代，能够零故障长久运转。接下来，他相信我们将能重新设计身体——例如，用能够自行驱动的血红细胞纳米机器人取代血红细胞，把心脏彻底淘汰掉。他甚至谈到了大脑的改造：大脑能力将被强化，思考速度将是现在的数10亿倍，能够存取外部信息，因为大脑的人造配件可与云端的所有信息实现交互。

人类的全新体验可能会无穷无尽。科兹威尔相信，我们吃东西也将享有更多自由。纳米机器人将完美的营养送达细胞，将不健康的东西导出体外，不让它们影响身体分毫。纳米技术理论家罗伯特•A•弗雷塔斯已经设计出了血液细胞的替代品，如果有一天在人体中应用，可以支持15秒钟不必呼吸的全速跑——所以ASI能为拓展我们的身体能力做些什么，是很难想象的。虚拟现实还将有新的涵义——体内的纳米机器人会压制我们本身的感受，将其替换为新的信号，令我们完全置身于新环境中，在那儿，我们可以看、听、嗅和感受。

科兹威尔相信，最终，人类将完全人工化。那时，当看到生物材料我们会想：真是有够原始，人居然曾经是用它们做的；那时，当我们阅读人类历史，会读到微生物、意外、疾病或是衰老皆会违背人的意愿而终结人的生命；那时，人工智能革命将在人类与人工智能的融合中走向尾声。这就是科兹威尔对我们将最终克服生物性，变得坚不可摧、长生不老的设想——是他对平衡木另一边的展望。他深信我们可以做到，并且很快做到。

毫不奇怪，科兹威尔的观点遭到了严厉的批评。他对2045年奇点时代即将到来、随后人类将可能长生不老的预测，被嘲弄为“书呆子的狂喜”，或是“智商140者的聪明设计”。另一些人则质疑他乐观的时间表，或是他理解人脑与人体的水平，或是他使用“摩尔定律”的模式，因为“摩尔定律”通常用于描述硬件的发展，他却在包括软件在内的很广范围内使用。每一个热切地相信科兹威尔讲的千真万确的专家后头，都跟着三个专家觉得他错得离谱。

但让我感到惊讶的是，绝大部分不赞同他的专家，并非真正反对他提出的所有可能性。当读到这些有关未来的奇特景象时，我曾以为他的批评者们会说：“很明显那就不会发生。”但反而，他们说的却是：“是的，如果我们能可靠实现ASI的转变，所有的一切都会发生。但转变正是最难的部分。”就连总在大声呼吁要警惕人工智能危险性的博斯特罗姆，也承认道：

很难想出有什么问题，是超级智能无法解决、或至少无法帮助我们解决的。疾病、贫穷、环境破坏、所有不必要的痛苦麻烦：这些事，装备了先进纳米技术的超级智能都能够解决。与此同时，超级智能还可以通过使用纳米医学停止与反转衰老过程，或是给我们提供选择、让我们上传自己，来让我们拥有无限长的寿命。超级智能还给我们创造了大幅提升智能与情绪能力的机会，帮助我们创造一个相当吸引人的经验世界，在这个世界中，我们可以专注于开心游戏、与人交往、体验和个人成长，使生活更接近我们的理想。

上面这段引述出自一位显然不在“信心角”的人。不过，我总是碰上这种事——那些专家嘲笑科兹威尔的理由有一堆，但他们从不认为，假如我们能可靠地实现ASI，科兹威尔说的事情不可能发生。这就是为何我发现科兹威尔的观点极富感染力的原因——因为他清晰传达了故事的光明一面，表明了事情的确可能发生。只要它（ASI），是仁慈的神。

我所听到过的对“信心角”思考家们最突出的批评是：他们低估了ASI的负面效应，犯这种错误可能很危险。科兹威尔的知名著作《奇点时代临近》（The Singularity is Near）全书超过700页，而其中用于介绍潜在危险的不过20页。我曾在上文提出：当这一巨大的新能力降生之时，我们的命运，取决于谁将控制那种能力、以及他们的动机是什么。科兹威尔在下面这句话里，巧妙地回答了这个问题：“ASI的出现历经多方努力，它将被深深植入我们文明的根基之中。事实上，它将被亲密地植入我们的体内和头脑之中。正因如此，它会反映我们的价值观，因为它就是我们自己。”

但如果那就是答案，为何还有这么多世界上最聪明的人在担忧不已？为何史蒂芬•霍金（Stephen Hawking）会说ASI的发展“将会招致人类的灭亡”？为何比尔•盖茨会说他 “不理解为什么有些人会毫不关心”？为何埃隆•马斯克（Elon Musk ）担心“我们正在召唤恶魔”？为什么，会有这么多讨论这一问题的专家，把ASI称为“人类最大的威胁”？这些人，和其他“焦虑大道”的思想家们，面对科兹威尔对人工智能（AI）危险性的忽视，可都不买账。他们对人工智能革命担忧满满，关注点不在平衡木的欢乐一边。他们太忙于关注另外一边了，在那儿，他们看到了一个可怕的未来，而我们能否逃脱那样一个未来，他们并无把握。

为什么未来有可能是我们最可怕的噩梦

我研究人工智能的一个原因是：“坏机器人”的话题总让我感到困惑。所有关于邪恶机器人的电影貌似太过异想天开，没法让我真正理解如果现实生活中的人工智能的确很危险的话，会是什么情况。机器人是我们造的，为什么按着设计来，还会有一些不好的事情发生呢？难道我们不能嵌入足够多的安全装置吗？我们就不能随时给ASI系统断电、把它关掉吗？到底为什么机器人会想干坏事呢？首先，机器人为什么会“想要”什么或“想要做”什么呢？我曾高度怀疑。但是后来，我不断听到真正聪明的人在谈论这个话题……

站在“焦虑大道”的人们可不是在“恐慌草原”或是“无望山”——这俩地儿都在表格的最左侧区域里——但是他们的确感到焦虑与紧张。（待续）

（英文原版地址：The AI Revolution: Road to Superintelligence The AI Revolution: Our Immortality or Extinction）