霍金留给人类的最后警告:超级智能和超人将会降临

“我在这个星球上过着不平凡的生活,同时用我的头脑和物理定律穿越宇宙。我去过银河系最远的地方,进入了黑洞,回到了时间的起源。在地球上,我经历过高潮和低谷,动荡和和平,成功和痛苦。我富有过,贫穷过,我健全过,残疾过。我受到过赞扬也受到过批评,但我从未被忽视。”

——霍金《Brief Answers to the Big Questions》

近日,霍金生前最后一本著作“Brief Answers to the Big Questions”正式出版,在书中,霍金试图回答几个问题:人类会在挑战之下活下来吗?我们应该在太空中殖民吗?上帝真的存在吗?

01

创造AI可能是人类历史上最后一个大事件

人类犯下的最大的错误就在于,认定科幻只是科幻,高度智能机器是不可能普及在人们生活中的。

霍金认为,当AI在人工智能设计领域变得比人类更优秀,以至于它可以在没有人类帮助的情况下递归地自我改进时,我们可能会面临一场智能爆炸,最终导致机器的智能远远超出我们。

迄今为止,人工智能的原始形式已被证明非常有用,霍金担心,如果创造出一种能与人类匹敌或超越人类的东西,后果将不堪设想。人类受到缓慢的生物进化的限制,无法竞争,将被取代。在未来,人工智能可以发展出自己的意志,一种与我们的意志相冲突的意志。

未来,超级智能的出现,将给人类带来爆炸性的转变,一个超级智能的人工智能会非常擅长实现它的目标,如果这些目标与我们的不一致,人类就有巨大的麻烦了。

霍金认为,创造人工智能将是人类历史上最大的事件。不幸的是,它也可能是最后一个,除非我们学会如何规避风险。

02

星际扩张也许是人类拯救自己的唯一办法

霍金认为,在未来1000年的某个时间点,核对抗或环境灾难将使地球瘫痪是不可避免的。到那时,霍金希望并且相信,人类这个聪明的种族将会找到一种方法来摆脱地球上粗暴的束缚,从而在这场灾难中幸存下来。

现在看来,挖掘其他星球的生存机会,是人类在面对达灾难的唯一选择。人类需要重燃20世纪60年代早期太空旅行的热情,去探索其他太阳系。

星际扩张也许是唯一能把人类拯救自己办法。

03

新生命形式的星际旅行机器会出现

根据相对论,人类到达星系中心大约需要10万年。

在科幻小说中,人们通过太空扭曲或者穿越维度来克服这个困难。但霍金认为这些都不可能实现,无论生命变得多么聪明。

而未来还可能出现一种更简单的方法——几乎已经在我们的能力范围内——设计出能够持续足够长的机器用于星际旅行。当人们到达一颗新恒星时,他们可以在合适的行星上着陆,开采出更多的物质来制造更多的机器,这些机器可以被送往更多的恒星。

这样的机器将会是一种新的生命形式,基于机械和电子元件而不是大分子。它们最终可能取代以DNA为基础的生命,就像DNA可能取代了早期生命一样。

04

本世纪出现基因编辑后的超人

在达尔文的进化论中,时间会让人变得更加聪明、善良,但是显然,人类没有那么多时间,等待自然进化,我们正在进入一个新的阶段,这个阶段可能被称为“自我设计进化”——人类将能够改变和改善我们的DNA,改善我们在原本DNA控制下,显示的缺陷。

由多个基因控制的智力,改善起来会困难的多,但是也不是不可能。霍金确信在本世纪人们将会发现如何修正智力和本能,比如攻击性。因此,他预测反对人类基因工程的法律可能会通过。但有些人无法抗拒改善人类特征的诱惑,比如记忆力大小、抗病性和寿命长短。

一旦人们尝试这种“诱惑”,就会出现超人。一旦这样的超人出现,那些无法与之竞争的人类将面临重大的问题,他们将会消亡,或者变得不重要。相反,那些靠自我设计改变基因的人,会以越来越快的速度提升自己。

05

宇宙中还有其他智慧生命吗?

这个问题争论已久。

霍金提出了几种可能。

我们习惯于认为智能生命是进化的必然结果,但更有可能的是,进化是一个随机的过程,智力只是众多可能结果中的一个。

从进化的年表来看,也许智力对地球上的生命来说是不太可能的发展,因为从单个细胞到多细胞生物需要很长时间——25亿年——这是智力的必要前体,所以这与生命发展智力的概率很低的假设是一致的。在这种情况下,我们可能期望在银河系中找到许多其他的生命形式,但我们不太可能找到智慧生命。

另一种无法发展到智能阶段的生命可能是小行星或彗星与行星相撞。一部分观点认为,大约6600万年前,一个相对较小的天体与地球相撞,导致了恐龙的灭绝。一些早期的小型哺乳动物幸存下来,但是任何像人类一样大的动物几乎肯定会被消灭。

还有一种可能性是,生命有合理的可能性形成并进化为智能生物,但系统变得不稳定,智能生命毁灭了自己。这将是一个悲观的结论,霍金说,我希望这不是真的。

他更倾向于第四种可能性:我们忽略了其他形式的智慧生命。在我们目前的阶段,与一个更先进的文明相遇,可能有点像当初的美洲居民与哥伦布相遇,霍金认为对方会因此而更先进。

霍金生前曾经有很多预言,在人类发展过程中一一应验,你对本书猜想持怎样的观点?

THE END

回复“OKR”

获取互联网顶级管理方法论《目标与关键成果法》模版

回复“AI区块链“

获取全球最领先的200G人工智能区块链学习资料包

回复“聂潜”

查看聂老师简介,专家合作微信:nq1919

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181020A1DC0W00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券