人工智能的革命：人类的死或生(3/10)

在我酝酿这篇文章时，我接触到相当多的AI观点，让我注意到，尽管这些观点各不相同，但绝大多数人都认同主流观点，同时，超过四分之三的专家主要集中在主流观点中的两个区域（焦虑区和自信区）：

接下来我们对这些不同的观点做一次彻底的分析。首先从最有趣的部分开始：

为什么未来可能很美好

随着对AI研究的不断深入，我惊讶的发现有相当多的人对AI的前景异常乐观:

这些人对未来心怀憧憬。他们把目光聚焦在积极的一面，并坚信这就是人类的未来。在他们眼里，未来和他们想象的一样美好。

这些乐天派和其他学者之间的区别不在于他们乐观的看法，而是他们那种毫无缘由的自信。

这种自信到底源自哪儿？批评家认为，他们这种盲目的热血，使他们忽略或否认了那些潜在的负面因素。但支持者认为，这种末日论的幻想才是真正的幼稚，总体来说，科技对人类还是利大于弊。

本文会对这两种观点做一个详细的讨论，希望在这个过程中，每一位读者也能形成自己的观点。但首先抛开你的质疑，试着想象这样一种场景：你对一个狩猎时期的原始人展现我们的现代生活，舒适的室内条件，科技以及丰富的物质财富，对他而言，就像虚构的魔法一般。这种美梦成真的体验会是多么美妙。我们必须承认，我们对未来的体验必然也是这种相同的，不可思议的提升。

Nick Bostrom描述了超级AI系统可能发挥价值的三种方式：

• 作为数据库，可以精准的回答各种问题，包括人类不无法轻易回答出来的复杂问题——比如，如何制作一台更高效的汽车发动机？Google就是这种数据库的初级模式。
• 作为一盏神灯，可以实现各种吩咐给他的高级命令——使用分子级别的组装技术，构建一个全新的，更高效的汽车发动机，然后等待下一条指令。
• 作为最高统治者，享有广泛的，无限制的权利，并能在这个世界中自由操纵，完成自我决策，执行最佳方法——相比汽车这种需要人类自己接送自己的方式，提供更快，更廉价，更安全，更安全的方式。

这些问题和任务对我们来说很复杂，但在超级AI眼里则简单许多，就像捡起掉在地上的铅笔一样的易如反掌。

Eliezer Yudkowsky对AI持消极态度，他认为“问题没有绝对的困难，只是对某一级别的智商相对较难，沿着智商等级向上拖动，一些看似不可能的问题会突然变得显而易见。随着大规模的进步，很多秘密则会真相大白。”

有很多急切的科学家，发明家和企业家在自信区，这里我只引荐一个人，因为他是这块领域中最闪耀的明星。

世人对Ray Kurzweil评价通常都会极端。根据我的了解，有人对他和他的观点推崇至极，有人则嗤之以鼻。也有一些则是中立态度——作家Douglas Hofstadter在讨论Kurzweil书中的观点时，非常形象的举了一个例子“好比你把美食和狗屎掺在一起，最后你也分辨不出来是好是坏。”

不管是否喜欢他的想法，你不得不承认Kurzweil确实了不起，当他还是一名少年时，他就开始发明东西了，然后数十年里，他创造了一些突破性的发明，比如平板扫描仪，能够扫描平板上的文字并转化为讲话（允许盲人阅读标准文本），众所周知的音乐合成器（第一台真正的电子钢琴）也出自Kurzweil之手，同样还包括第一台商业化的，市场化的大词汇量的演讲认知设备。他也是五本全美畅销书的作者。因其大胆的预测而闻名，而且多数预言最后都成真了——在80年代后期，因特网的前景还很模糊，他就预测在21世纪初期，因特网将会在全球普及。华尔街日报称Kurzweil是一个不安分的天才，福布斯称其是终极的思考机器，时代杂志称他为爱迪生再世，比尔盖茨称他是自己认识的人中，能够预测AI未来的最佳人选。2012年，谷歌联合创始人拉里佩奇试图邀请Kurzweil出任Google的工程部主管。2011年，Kurzweil和NASA一起筹建了奇点大学，并得到了谷歌的赞助。履历不赖吧，人生赢家。

这里对Kurzweil的个人介绍是必要的。当Kurzweil清楚的展望他眼中的未来时，他看上去就像一个疯子，而最疯狂之处就在于此——他是这个世界上极为聪明，博学的一个人。你可能会认为他眼中的未来是错误的，但他绝不是一个傻子。相反，他的博学多识让我甚为钦佩。我越是深入了解到他对未来的预测，我就越希望他是对的。我想你一样希望未来是美好的。包括Peter Diamandis 和 Ben Goertzel在内的，对未来充满自信的思想家也乐于分享Kurzweil对未来的预测。下面就是他认为未来将会发生的一些事情：

时间轴

Kurzweil认为人类在2029年就可以实现通用型AI，到2045年，人类不仅实现了 AI，而且也会创造一个全新的世界——他称为奇点。目前来看，他描述的这条跟AI相关的时间轴过分乐观，但最近的十五年里，狭隘型AI系统快速的提升已经拉近了这个差距。相比Müller 和 Bostrom的调查问卷的平均预期（普遍性AI：2040，超级AI：2060），他的预测还是要激进一些，但本质上并没有太大的出入。

Kurzweil描述道，之所以认为2045年会是一个奇点，将会同时迎来三个革命性的变化，分别是生物科学技术，纳米技术和强大的AI技术。

我们会发现，在大多数涉及AI的书籍中都会提到纳米技术，所以不妨花几分钟来讨论一下纳米技术——

纳米技术

纳米技术是指我们的制造工艺达到了1到100纳米的精度。一纳米是一米的十亿分之一，或一毫米的百万分之一，而1到100纳米之间包括病毒（100纳米），DNA（10纳米宽），血红蛋白这样的大分子（5纳米），葡萄糖这样的中等分子（1纳米）。当我们攻克纳米技术，则下一步就是操作单个原子，也就是小于1纳米的工艺水准。

掌握纳米技术对人类而言是一项巨大的挑战，为了让大家更深刻的感受它的复杂度，我们把纳米的世界放大一下。国际空间站距离地球表面431千米。如果人类都是巨人，能够脚踩大地，头顶空间站的话，是目前身高的二十五万倍。如果同时把1到100的纳米长度也放大二十五万倍，就是0.25毫米到2.5厘米。所以纳米技术就等同于一个和国际空间站一样高的巨人，能够非常精准的用一粒沙或者和我们眼球一样大小的材料，小心翼翼的构建出复杂的物体。纳米技术的下一个目标——能够操作单个原子——这个巨人能够需要准确的定位，误差不能超过四十分之一毫米——人类只能借助显微镜才能看、

Richard Feynman在1959年首次讨论了纳米技术，当时他解释：“就我所知，暂不考虑在原子级别下操纵物体是否可行，物理的法则可能就是物理学家按照化学家给出结构来合成任何化学物质的法则。如何做到呢？就是把一个又一个的原子按照化学家的吩咐来摆放，然后这些原子就形成了该物质。”就是这么简单。如果你能做到任意操作单个的分子或原子，理论上讲你可以制造出任何物质。

1986年，纳米技术第一次成为一个重要领域，工程师EricDrexler在他的著作《Engines of Creation》（创作的动力）中，提供了纳米的基础概念，但对那些想要了解纳米技术中最先进的思想的人，Drexler建议读一下他2013的新书《Radical Abundance》（绝对富余）。

关于纳米技术，我有责任在这里强调一点需要，指出一些相当枯燥的部分。在旧版的纳米技术中，有一项实现纳米级组装的提议，该方法涉及到创造上百亿微小的纳米机器人，让他们在一起构建物体。一种能够创造上百亿个纳米机器人的方式就是自我复制，也就是指数级别下的克隆。这样的过程只需持续一天左右，就可以创造上百亿个机器人。这就是指数级增长的威力。很强大，不是吗？

但这种增长也引起地球性的灾难。问题在于这种指数级的能力，虽然可以方便快捷的创造上百亿个纳米机器人，但这种自身复制也带给人们一种毛骨悚然的预期。如果这个系统故障了，当达到临界点却无法停滞，仍然继续复制，这可如何是好？为了维持复制进程，纳米机器人会消耗各种碳物质，很不幸的是，生命也是基于炭材料的。地球上的生物体中总计包含10^45碳原子。一个纳米机器人大约包含10^6个碳原子，所以只需要10^39个纳米机器人，就可以消耗掉完地球上所有的生命，这需要130次复制（2^130约等于10^39），届时，如洋般的纳米机器人将会包围这个星球。科学家认为一个纳米机器人的一次分裂大约需要100秒，这意味着只要稍有差错，只需要3.5小时，地球上所有的物种就会灭绝。

还有一个更糟糕的剧本——如果一个恐怖分子搞到了纳米机器人技术并知道如何操作，他可以先复制上几百亿个纳米机器人，然后在数周内不知不觉的，悄悄的传播到全球各个角落。然后立刻发动进攻，只需要一个半小时，地球上所有生命都会灭绝——如何阻止纳米机器人在全球的扩散，对此我们毫无抵抗力。

这个恐怖的故事已经广泛讨论了好几年，当然，确实有夸大其词的地方。人们喜欢恐怖的故事，这个故事有点僵尸类电影的风格，让人脑洞大开。

一旦我们真的掌握了纳米技术，我们可以使用它来制造科技设备，衣服，食品，各种生物相关的产品——人造血细胞，病毒或癌细胞毁灭者，肌肉组织等任何东西。而且在一个纳米广泛应用的世界，物质的成本不再依赖于材料的稀缺性和制作工艺的复杂度，取而代之的是它原子结构的复杂度。在一个充斥着纳米技术的世界，钻石可能要比铅笔擦还便宜。

这一切还无法实现，我们也不清楚我们是否低估或高估了纳米技术以及实现纳米技术的难度。但看上去并不太远了。Kurzweil预测人类将在2020年代实现纳米技术。政府也意识到纳米技术会是一个惊天动地的成果，他们已经在纳米技术研究上投入了数十亿美观的经费（美国，欧盟和日本总计投资超过了五十亿美元）。

如果能够采用纳米级别来组装一台超级AI的计算机，只是想想就觉得紧张了。人类提出了纳米技术的想法，AI马上就能够攻克，同时，在超级AI系统眼里，人类所做的任何事情如同小儿科一样简单。我们们不难想象，超级AI提出的技术会更强大，更先进，也会超出人类的理解范畴。基于这个原因，如果AI革命是积极的话，再多的赞美都不过分。所以如果接下来的预测让你觉得太过于天马行空，请注意，AI的创造能力确实超出了我们的想象。更何况，我们的大脑也并不擅长预测未来。