霍金:人工智能像核武器,给世界带来10大变化

作者:霍金

著名科学家霍金,被誉为“宇宙之王”,他认为:人类迄今为止最为深刻的影响就是人工智能的崛起,对于人工智能,他有以下十点深刻的思考:

01

在我的一生中,我见证了很多社会深刻的变化。其中最深刻,同时也是对人类影响与日俱增的变化就是人工智能的崛起。人工智能可能是人类文明史上最伟大的事件,它要么是人类历史上最好的事,要么是最糟的。如果我们不能学会如何避免风险,那么我们会把自己置于绝境。

如果有人设计计算机病毒,那么就有人设计不断自我完善、直到最终超越人类的人工智能,其结果将是一种新的生命形式。

人工智能的真正风险不是它的恶意,而是它的能力。一个超智能的人工智能在完成目标方面非常出色,如果这些目标与我们的目标不一致,我们就会陷入困境。”

02

人工智能对人类的影响,可以从短期、长期两方面来分别讨论。

短期担忧——智能自主武器、隐私

人工智能的全方位发展可能招致人类的灭亡。比如最大化使用智能性自主武器。

目前,世界上九个核大国可以控制大约一万四千个核武器,它们中的任何一个国家都可以将城市夷为平地,放射性废物会大面积污染农田,最可怕的危害是诱发核冬天,火和烟雾会导致全球的小冰河期。

这一结果使全球粮食体系崩塌,末日般动荡,很可能导致大部分人死亡。我们作为科学家,对核武器承担着特殊的责任。正是科学家发明了核武器,并发现它们的影响比最初预想的更加可怕。

除此之外就是隐私的担忧。由于人工智能逐渐开始解读大量监控数据,这些都会被机器人洞察的一览无余。

03

长期担忧——人工智能系统失控的潜在风险

人工智能遵循的一个逻辑是,“计算机在理论上可以模仿人类智能,然后超越”。这一天很快会到来。

未来,人工智能可以发展出自我意志,一个与我们冲突的意志。

我们无法知道我们将无限地得到人工智能的帮助,还是被藐视并被边缘化,或者很可能被它毁灭。但事实就是:聪明的机器将能够代替人类正在从事的工作,并迅速地消灭数以百万计的工作岗位。

人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代。这将给我们的经济带来极大的破坏。

04

在过去二百年中,人口增长率是指数级的,目前这一数值约为1.9%。 这听起来可能不是很多,但它意味着,每四十年世界人口就会翻一番。 2022年,我将庆祝自己80岁的生日,而在我人生的这段历程中,世界人口比我出生时膨胀了四倍。

这样的指数增长不能持续到下个千年。到2600年,世界将拥挤得“摩肩擦踵”,电力消耗将让地球变成“炽热”的火球。这是岌岌可危的。

我相信我们可以避免这样的世界末日,而最好的方法就是移民到太空,探索人类在其他星球上生活的可能。人类作为独立的物种,已经存在了大约二百万年。我们的文明始于约一万年前,其发展一直在稳步加速。如果人类想要延续下一个一百万年,我们就必须大胆前行,涉足无前人所及之处!

05

在某种程度上,今天的情况就如同1492年前的欧洲。当时的人们很可能坚信,哥伦布的探险注定是徒劳无功。 然而,新世界的发现,对旧世界带来了深远的影响。对于那些被剥夺权利地位、走投无路的人来说,新世界成为了他们的乌托邦。

人类向太空的拓展,甚至将会产生更深远的影响,这将彻底改变人类的未来,甚至会决定我们是否还有未来。它不会解决地球上任何迫在眉睫的问题,但它将提供解决这些问题的全新视角,让我们着眼于更广的空间,而不是拘泥眼下。

06

当我们进入太空时,会有怎样的发现呢? 会找到外星生命,还是发现我们终将在宇宙中踽踽独行?我们相信,生命在地球上是自然而生的,是在漫长的进化后,实现了与地球资源的高度契合。因此,在其他条件适宜的星球上,生命的存在也必定是可能的。

去年,我们推出了长期研发计划——“突破摄星”,目标是让星际旅行变成现实。“突破摄星”是人类初步迈向外太空的真正机会,为了探索和考量移居太空的可能性。

这项创新背后的想法,是以光束来驱动纳米飞行器的前进。这样产生的速度虽然不及光速,但也能达到其五分之一,约合每小时1亿英里。这样的系统可以在一小时内抵达火星,几天内到达冥王星,一周内就可以追上并超过旅行者号探测器,并在仅二十年后到达半人马座阿尔法星系。

07

人工智能的成功有可能是人类文明史上最大的事件。但人工智能也有可能是人类文明史的终结,除非我们学会如何避免危险。

我相信我们团结在一起,来呼吁国际条约的支持或者签署呈交给各国政府的公开信,科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。所以,监管和立法在AI的发展过程中十分重要。

08

通过达尔文式的演化过程,侵略性深深根植于我们的基因之中。然而,如今的技术发展已经加快到了某种程度,使这种侵略性可能会以核战争或生物战争的形式毁灭人类。我们需要用逻辑和理性来控制这种与生俱来的本能。

你可能并不是一个讨厌蚂蚁的人,但也会无意中踩死蚂蚁,而如果你负责一个水力发电的绿色能源项目,项目所在的区域内也可能会有许多蚂蚁巢穴被水淹没,对蚂蚁来说就非常不幸。我们要避免人类处于这些蚂蚁的境地。

09

人类面临的最大威胁是我们自身的弱点,即贪婪和愚蠢。这些人性的基本属性,将使在人工智能时代的境况将变的更加糟糕,因为当机器被设定程序后就知道适可而止,知道就流勇退,但是人类很难,除非是那些极高修为的人,才能突破人性的弱点,但是机器人可以轻而易举的回避这些弱点。

10

我们还应该扮演一个角色,确保下一代不仅仅有机会还要有决心,在早期阶段充分参与科学研究,以便他们继续发挥潜力,帮助人类创造一个更加美好的的世界。

原文发布于微信公众号 - 钱塘大数据(qtbigdata)

原文发表时间:2018-01-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏镁客网

黑科技 | 纳米晶体管研制成功,未来我们电脑会更小的节奏!

1294
来自专栏钱塘大数据

霍金走了,留给世界对人工智能的十大思考

? 3月14日。据英国天空新闻等多家媒体的报道,史蒂芬霍金去世,享年76岁。生于伽利略祭日,卒于爱因斯坦诞辰,世间再无霍金,时间永留简史。 斯蒂芬·威廉·霍金...

32510
来自专栏企鹅号快讯

I LOVE IT——做优秀的IT人

I LOVE IT——做优秀的IT人 ? 如今的经济状况太槽糕了,很多人都在找工作。与此同时,许多科技公司非常渴望招到优秀IT人,这活儿报酬极高还有很多福利。我...

17110
来自专栏Keegan小钢

003 | 从学会到精通的方法论

如果你按照我上一篇文章所展示的学习方法去学习一门新技能的话,不管是区块链,还是一门新编程语言,一周时间足以让你上手。我学习区块链从不会到学会就是用了一个星期左右...

733
来自专栏华章科技

大数据黑洞

如今我们可以轻松地从云端雾端,或者某些静态设备(staticdevice)收集数据,但是这些数据无法量化客户体验时的情感。大型企业利用无处不在的信息感知移动设备...

692
来自专栏腾讯大讲堂的专栏

马化腾:通向互联网未来的七个路标

今天,讲堂君接着跟大家同步跟分享11月10日WE大会视频。 第二期分享腾讯董事会主席兼CEO马化腾发表的题为《通向互联网未来的七个路标》的演讲,主要分享了一些自...

18910
来自专栏镁客网

研究团队发明新型PCRAM材料,存储速度提升100倍、功耗降低90% | 黑科技

1180
来自专栏程序员互动联盟

什么样的人适合学编程?

最近很多遇到很多的编程的爱好者,嚷着要加入自学编程的队伍中,说是对编程极为感兴趣,抱着很大的热情,但是过了一段时间,很多还是默默的坚持着,很多早换别的行业打酱油...

3399
来自专栏AI科技大本营的专栏

CCAI | 清华大学计算机系教授史元春:科幻与创新

清华大学计算机系教授、全球创新学院院长史元春 文/CSDN贾维娣 7 月 22 - 23 日,在中国科学技术协会、中国科学院的指导下,由中国人工智能学会、阿里巴...

33515
来自专栏C语言及其他语言

程序员的困境及如何摆脱这种困境?

近日笔者采访了几十位求职内核程序员这个岗位的候选人。这些候选人均来自大的优秀公司——公司多以芯片或嵌入式OS /系统而闻名。他们中的许多人都声称自己拥有至少10...

3048

扫描关注云+社区