霍金最后警告:人工智能将形成自己的意志?未来会出现“超人”?

“我在这个星球上过着不平凡的生活,同时用我的头脑和物理定律穿越宇宙。我去过银河系最远的地方,进入了黑洞,回到了时间的起源。在地球上,我经历过高潮和低谷,动荡和和平,成功和痛苦。我富有过,贫穷过,我健全过,残疾过。我受到过赞扬也受到过批评,但我从未被忽视。”

霍金逝世7个月后,他生前的最后一本著作“Brief Answers to the Big Questions”近日正式出版,上述文字是他在书中写的自白。这是他给人类留下最后的精神遗产。

不同于经典著作《时间简史》,这本最新的著作重点关注目前地球上所有人都将面临的几个重大挑战,包括人工智能的发展、基因编辑技术、气候变化、核战争的威胁等等。

人工智能将形成自己的意志

霍金强调了规范管理人工智能的重要性。霍金多次表示,“彻底开发人工智能可能导致人类灭亡”。他指出,“未来人工智能可能形成自己的意志,与我们人类相冲突的意志”

按照霍金的说法,人工智能科技在初级发展阶段的确为人类生活带来便利,但是,机器将可能以不断加快的速度重新设计自己。而人类则受制于生物进化速度,无法与其竞争,最终被超越。科学界把这种人工智能超越人类智慧的转折点命名为“奇点”。

事实上,美国Space X首席执行官埃隆·马斯克,微软创始人兼慈善家比尔·盖茨,也都警告过要注意人工智能的“危害”。麻省理工学院教授、科学家、谷歌、IBM和微软等企业员工及与人工智能领域有关的投资者,也联名发出公开信,表达同样的忧虑。

人类可以通过DNA改造变身超级人类

他预计人类本世纪就能发现通过改造基因提高智力的技术。而为了改善体质,人们可能将来会把钱投入到DNA变异上,变成“超级人类”。

霍金在书中暗示,富人不久可以选择编辑他们自己和孩子的DNA,让自己和孩子变成拥有更强记忆力、抗病力、智力和更长寿命的“超人”。

而“没得到改造的人类”可能无法竞争,逐渐绝迹,或者变得“不重要”,到时候,人类会展开“自我设计”的竞争。

霍金担心有钱人一旦有机会变动子女的DNA,将出现新人种的竞赛,恐将摧毁一般人的生存。他认为,“优质”人类的出现将导致普通人开始形成特殊的较低的种姓或者完全消亡。

“法律可能会禁止对人类做基因改造,但是一些人可能抵挡不住改善记忆、抗病力、寿命等人类特征的诱惑。”霍金写道。

星际扩张是人类拯救自己的唯一办法

霍金认为,在未来1000年的某个时间点,核对抗或环境灾难将使地球瘫痪是不可避免的。到那时,霍金希望并且相信,人类这个聪明的种族将会找到一种方法来摆脱地球上粗暴的束缚,从而在这场灾难中幸存下来。

目前,除了地球人类无处可去,但从长远来看,人类不应该把所有鸡蛋都放在一个篮子里,或者放在一个星球上。

在“我们如何塑造未来”章节中,霍金不同意人类处于“进化巅峰”这一观念。在他看来,人类的进化和努力没有边界。

他认为人类未来有两种选择:首先,探索其他可供人类居住的替代星球,他在不止一章中提倡太空殖民,包括殖民月球、火星或星际行星等;其次,积极利用人工智能来改善我们的世界。

近期最担忧:各国开发自主武器系统

虽然霍金自己是一个众所周知的乐观主义者,但他不确定这种乐观能持续多久。例如,在短期内,世界各国军队正在考虑在自主武器系统中展开军备竞赛,以选择并消灭自己的敌人。

当联合国正在讨论一项禁止此类武器的条约时,自主武器的支持者通常忘记问一个最重要的问题:军备竞赛可能的终点是什么?这对人类来说是可取的吗?我们真的希望廉价的人工智能武器成为未来冲锋枪,在黑市上卖给犯罪分子和恐怖分子吗?考虑到人们对我们长期控制越来越先进的人工智能系统的能力的担忧,我们是否应该武装AI,并将我们的防御力量交给AI?

因此说,现在是停止自主武器军备竞赛的最佳时机。

霍金生前最后一篇论文公开:物体落入黑洞的信息有什么变化?

虽然霍金自己是一个众所周知的乐观

而就在前不久,霍金临终论文也公开了。

这篇论文题为《Black Hole Entropy and Soft Hair》,作者分别是Sasha Haco、 Stephen W. Hawking、Malcolm J. Perry和Andrew Strominger。

该论文阐述了物体落入黑洞时信息产生的变化,主要解决了“黑洞信息悖论”这一问题。该论文的观点是,黑洞中存在无穷尽的“柔软的头发”而非无迹可寻,同时也给出了黑洞熵的计算方法。

这一难题可追溯到爱因斯坦时代。1915年,爱因斯坦提出广义相对论,这对黑洞做出了一个重要的预测,即黑洞完全由三个特征来定义,分别是质量、电荷和角动量。

而霍金在将近60年后提出,黑洞也有温度,黑洞的命运最终将是蒸发,即黑洞蒸发理论。若是再考虑量子理论,即根据量子世界的定律,信息是不会消失的。这便成了一个矛盾点。

若是一个物体被丢进黑洞里,在黑洞消失的时候,物体的信息都去了哪里呢?

在这篇论文中,霍金及其同事展示了有些信息如何被保存下来。把一个物体扔进黑洞,黑洞的温度会因此而改变。一种叫做熵(用来测量物体内部无序程度的指标)的特性也会如此。温度越高,熵就越高。

除此之外,霍金还在论文中表示,他希望能将引力和其他的自然力量结合起来,从而统一爱因斯坦广义相对论于量子理论。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181020B0YGQT00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券