将大脑上传到网络会发生什么?

▎药明康德/报道

本文由药明康德团队整理,欢迎分享至朋友圈。转载请于文章开头注明“本文来源于药明康德微信公众号(ID:WuXiAppTecChina)”

总有一天,机器人会像人类一样聪明,人工智能,AI。那要如何做到呢?其中一个方式就是,我们只要继续累积更好的软件,就像我们过去七十年所做的。但以过去的进步速度推断,这样要花上数百年时间。有人说,它会提早实现,因为我们发现了全新的强大智能理论。我持怀疑态度。

Someday, we may have robots as smart as people, artificial intelligence, AI. How could that happen? One route is that we'll just keep accumulating better software, like we've been doing for 70 years. At past rates of progress, that may take centuries. Some say it'll happen a lot faster as we discover grand new powerful theories of intelligence. I'm skeptical.

演讲实录

总有一天,机器人会像人类一样聪明,人工智能,AI。那要如何做到呢?其中一个方式就是,我们只要继续累积更好的软件,就像我们过去七十年所做的。但以过去的进步速度推断,这样要花上数百年时间。有人说,它会提早实现,因为我们发现了全新的强大智能理论。我持怀疑态度。

但有第三种情况,是我今天要讲的。这个想法是从人脑中移植出软件。要做到这一点,我们需要让三种技术的发展足够成熟,但目前我们这些都还没达到。第一,我们需要许多廉价、快速、平行的计算机。第二,我们需要在适当的空间与正确的化学成分下扫描我们的大脑。这样才能看出细胞的精确位置、链接、类型。第三,我们需要一种计算机模型,关于各类脑细胞如何运作的模型──可以让我们输入讯号,改变区间的状态,并再发送出讯号的模型。如果我们有够好的各种脑细胞模型、够好的大脑模型,我们可以把它们结合起来,做出一个完整的大脑模型,那个模型与原本大脑所想要的输入和输出行为一致。所以,如果你跟它说话,它可能会回话。如果你要它做事,它可能会去做。如果我们能做到这样,一切都会改变。

几十年来人们以“上传”的方式谈论这个想法。我打算称它为“仿真脑(ems)”。当人们在谈论这个想法时,他们说:“这是可能的吗?”如果能做出来,它会是有意识的吗?还是只是个空机器?如果你仿了我的大脑,它会是我还是另一个人?我将忽略这些令人着迷的问题……

因为我看到了一个被忽视的问题:究竟会发生什么事?我对这个问题很着迷。我花了四年时间来分析它,用标准的学术工具,猜测可能会发生什么事,我来这里是要告诉各位我的发现。但,请注意──我不是要提供灵感,我是要提供分析。我认为我的工作是告诉你们最有可能发生的情况,如果我们不花心思去预防,如果你对于我今天告诉你的事并不感到担心,那表示你没注意听。

好,我能告诉各位的第一件事是,仿真脑的大部分时间都是在虚拟现实生活中度过的。如果你使用虚拟现实,这就是你的样子。这也是你可能会看到的:阳光在水面上闪闪发光,可能还会听到海鸥从上面飞过,你甚至可以用先进的硬件感受到风吹抚过脸颊或闻到海水的味道。如果你要花很多时间在这里,你可能会想要一个仪表板,让你可以做一些事,比如打电话、移动到一个新的虚拟世界、查看银行帐户。

这是你在虚拟现实中看起来的样子,这是仿真脑在虚拟现实中看起来的样子。它是计算机硬件,就放在某个服务器的机架上。但它仍然能够看见和体验同样的东西。但对仿真脑来说,有些东西是不同的。第一,你可能会留意到虚拟现实并不全是真实的,但仿真脑感受到的真实度,就像你现在对这空间或对任何其它东西感受到的真实度一样。仿真脑还有更多的行为可能性。

比如,你的大脑总是以同样速度运作,但仿真脑可以透过增加或减少一些计算机硬件来运作地更快或更慢,因此,如果它们觉得周围的世界发展地似乎太快了,它们可以加快思考的速度,这样它们周遭的世界似乎就会慢了下来。

此外,仿真脑可以复制自己。这个复制品会记住所有的东西,如果它用同样的速度开始运作,以同样的速度观察世界,它们甚至可能需要被告知:“你只是个复制品。”仿真脑可以做归档副本,一旦有足够的归档副本,仿真脑就可以永生——那是理论上,虽然实际上不常见。仿真脑可以移动它的脑,也就是代表它的脑的那台计算机,从一个实体地点移到另一个地点。仿真脑可以用光速在全世界移动,藉此移动到一个新地点,它可以更快速地与新地点附近的仿真脑做互动。

目前,我说的都是仿真脑能做什么。那仿真脑会选择做什么?要了解这一点,我们得要先了解三项关键事实。第一,定义仿真脑在相同情境下,会模仿出人类做的事。所以它们的生活和行为都非常像人类。它们与人主要的差异在于它们活在不同的世界里。第二,仿真脑需要真实资源来存活,就像你需要食物和住所,否则就会死亡。同样的,仿真脑需要计算机硬件、能源、冷却,不然它们将不能生存。仿真脑所经历的主观每一分钟,都是得有人付出才能得到的,而付出的那个人通常是仿真脑本身。第三,仿真脑很穷。

仿真脑数量的增长会快过仿真脑的经济增长,那意味着薪资水平会落到仿真脑能维持生计的水平。那意味着仿真脑大部份的时间得要工作。那意味着仿真脑通常看见的是这个:美丽又奢华的,办公桌──它们大部份的时间都在工作。你可能会认为,这种勉强糊口的工资是奇怪的,但这是人类历史上常见的情况,这基本是所有野生动物的生活方式,所以我们知道人类在这种情况下会做什么。人类基本上会为了生存而行动,这就是让我说了这么多关于仿真脑世界的原因。当生物富有时,就像你们一样,你得先要知道他们想要什么,才能猜出他们会做什么。当生物很贫穷时,你知道的,他们会做的就只是生存下来。

我们已经从仿真脑的观点谈了仿真脑的世界。现在我们退后一步,来看看它们的整个世界。第一,仿真脑世界的成长速度比我们的世界快很多,大约快上一百倍。我们经历了一、两个世纪的改变,它们在一、两年内就能完成。我其实不想预测更遥远的未来,因为,理论上到那时就会有其它事发生,我们无法知道。第二,典型的仿真脑运作得更快,大约是人类的一千倍。所以,对它们而言,它们会在这一、两年就经历我们的数千年,相对于你对你的周围世界的感觉,它们会觉得它们周围的世界改变很缓慢。第三,仿真脑会挤在少数几个高密度城市中。这不只是它们在虚拟现实中看到的自身状况,它们的实体也确实是挤在同一个地方的。以仿真脑速度来看,实体旅行是要命的缓慢,所以大部份的仿真脑城市是自给自足的,大部份的战争是网络战争,而地球上远离仿真脑城市的其它地方,就留给人类,因为仿真脑对这些地方真的不感兴趣。

说到人类,你会想要听到这个。人类必须要退休,一旦发生了,你就好好退休吧。人类无法和仿真脑竞争。一开始,人类拥有这个世界上所有的资本。经济增长非常快,他们的财富也增长非常快。整体而言,人类变富有了。如你所知,现今大部份人除了拥有工作能力外,其它其实拥有的并不多。所以从现在起到以后,他们需要获得足够的资产、准备保险或股权的配置,不然他们就要挨饿了。我强烈建议要避免这个结果。

你们可能会好奇,为什么仿真脑要让人类存在?为什么不杀了人类,拿走他们的东西?别忘了,现今我们身边就有很多没有生产力的退休者,我们不会杀了他们,拿他们的东西。

部份原因是因为这样会使得我们与他们共同的制度被瓦解。其他族群就会想,谁会下一个遭殃?所以仿真脑比较合理的做法,是让人类在仿真脑的时代能平静地退休。你们比较应该担心的是,仿真脑的时代可能只有一、两年,而你却不知道接下来会发生什么事。

仿真脑和人类很像,但它们不像典型的人类。典型的仿真脑是几百个最有生产力的人的翻版。所以事实上,与一般人相比它们是精英,它们是典型的亿万富翁、诺贝尔奖得主、奥运金牌得主、国家元首。仿真脑在看人类时,可能是带着怀旧之情和感激之情的,但不会带有很多尊重,就像你是怎么看待你的祖先的。我们知道许多关于不同个体在生产力方面的不同之处。我们可以用那些知识来预测仿真脑的特征──比如,它们往往是聪明的、认真的、努力的、已婚的、有宗教信仰的、中年的。这些是仿真脑的特点。

仿真脑世界也有很高的多样性。它不只延续了人类的各种多样性,包括产业及职业的多样性,它们也在很多新型特点上体现了多样性,最重要的之一就是思维速度。仿真脑的速度,慢的可以慢到与人类一样的速度,快的可以快到比人类快几百万倍的速度,往下还可以比人类慢十亿倍的速度。更快的仿真脑往往具有较高的地位。它们有比较多的财富。它们能在争论中胜出。它们位于金字塔顶端。比较慢的仿真脑多半是已退休的,它们就像是我们小说中看到的鬼魂。如果你有注意到,书中的鬼魂都在我们周围,如果你愿意付出代价,就可以与它们互动。但它们知道的不多,它们的影响不大,且它们沉陷在过去中,但那有什么意义?

仿真脑的人生结构也有较高的多样性。这是你的人生:开始、结束就这么简单。这是仿真脑的人生,每天都会分裂出一些短暂的复制品,用来完成短期任务,然后结束。我们稍后再讨论这些短期版本,但是它们的效率更高,因为它们不需要在第二天休息。这个仿真脑是比较机会主义者的。当有需要时,它们就会把自己复制更多份。它们不知道未来的走向。

这是一个仿真脑设计师,它构想了一个很大的系统,然后再分裂成复制品来详细说明它的构想,因此,仿真脑可以实现更大、更连贯的设计。这是个仿真脑世界里的水管工,它记得过去二十年的每一天,它们一天只工作两小时,很悠闲的人生。但实情是,它们每天都得复制出数千个复制品,每个复制品得做两个小时的工作,它们之中只有一个第二天会接着工作。客观上,它们99%的时间都在努力工作。主观上,它们还记得什么是悠闲的生活。

同样的,这还是你。你开始,你结束。这可能是你,如果在派对开始时,你吃了颗药,它会让你在那天之后再也想不起那场派对。据我所知,有些人会这样做。到派对尾声时,我要问你的是,你是否会告诉自己:“我快要死了,这太可怕了。明天的那个我其实不是我,因为他不会记得我做过的事。”或者说:“明天,我还是我,只是不记得我过去做了什么。”这是分裂出短期复制品的仿真脑,用来做短期工作,然后就结束。它们同样也有这两种可能的态度。它们会说:“我是新的短期生物,生命很短。我讨厌这样。”或“我是更大生物的一部份,只是记不得是哪一部份。”我预测它们会采用第二种态度,不是因为哲学正确性,而是因为那种态度能帮助它们相处。

如果今天总统说我们必须要侵略伊拉克,你说:“为什么?”他们说:“国家机密。”你不确定是否可以信任他们,但对仿真脑而言,总统的复制品和你的复制品可以进入一个保险箱,解释它们所有的秘密原因,然后有一个讯号从你的复制品传递给你,让你知道你是否有被说服。这样你就会知道有个好理由存在。

我知道你们都很渴望评估那个世界。你想尽快决定你是否喜欢它或讨厌它。但想想:数千年前的祖先会根据他们听闻的最初的几件事,来选择爱或恨你现在的这个世界吗?因为你的世界听起来是很奇怪的。所以在评断一个奇怪的未来世界之前,你应该好好学习它,也许读一本关于它的书,然后,如果你不喜欢它,就努力去改变它。

谢谢。

Robin Hanson先生是未来学家,社会科学家,是乔治梅森大学(George Mason University)经济学副教授,牛津大学人类学研究所(Future of Humanity Institute of Oxford University)未来研究员,也是《The Age of Em: Work, Love and Life when Robots Rule the Earth》书的作者。

  • 发表于:
  • 原文链接:http://kuaibao.qq.com/s/20171216B02CI400?refer=cp_1026

相关快讯

扫码关注云+社区