专栏首页新智元为什么顶尖科学家如此担心人工智能?

为什么顶尖科学家如此担心人工智能?

Nick Bostrom是一个怪异的哲学家。在所有担心人工智能,杀手机器人和技术带来的世界末日的人中,Bostrom想到的是最极端的情景。在他的想像中,人类灭绝只是开始。

Bostrom最喜欢的末日假设与一个被设定为制造回形针(或其它任何日常用品)的机器有关。这台机器会越来越聪明,越来越强大,但不了解人类价值。它会获得“超级智能”,然后将任何东西都变成回形针,甚至包括人类,地球和星系。

Bostrom曾轻描淡写地表示,“很可能有这种一样超级智能,它唯一的目标就是做更多的回形针,让整个宇宙都是回形针。这会是一个低价值的未来。”

对机器智能,邪恶计算机的担心已经逐渐成为主流,很少有科技会议上不会有人讨论AI焦虑。霍金,比尔·盖茨都在担心,而特斯拉创始人马斯克甚至投资了1000万美元,用于研究如何让机器智能处于控制之下。

这种观点的盛行与媒体和技术的改变有关,它更多是一种猜测,甚至还有点癔想成分。但这一反应了一件事实:在我们所处的时代,机器智能已经成了生活的一部分。计算机控制着飞机,过不了多久也许能驾驶汽车了;算法会了解我们的需求,并展示针对性广告;机器还能从人群中识别出我们的脸。基因工程和纳米技术等新领域不错发展并融合,我们不知道它们会产生怎么样的结果,部分严肃的人担心潜在的危害,怀疑我们能否控制自己的发明。

科幻作家阿西莫夫在上世纪40年代写机器人时,就预料到了这样的情况。他发明了机器人三定律,第一条就是,“机器人不得伤害人类,或因不作为(袖手旁观)使人类受到伤害”。阿西莫夫的三定律现在仍会被提及,不过更流行的词变成了“奇点”。

阿西莫夫

奇点可以追溯到1965年,当时英国数学家I.J. Good写道,“超级智能机器肯定能够设计出更加优良的机器,毫无疑问,随后必将出现一场智能爆炸,人类的智能会被远远抛在后面。”1993年,科幻作家Vernor Vinge用“奇点”这个词描述了这个时刻;后来发明家Ray Kurzweil写了一系列书,预测奇点发生的年代。

Kurzweil现在是Google的工程主管,他可能是最知名的技术乌托邦主义者之一。他认为技术进步终将让我们迎来人与机器智能融合,让我们变成“超人”。

无论上面说的会不会发生,Bostrom很担心我们没有足够的安全措施。他认为,人类可以将机器设定为永不伤害人类,但机器可能认为遵守这一规定的最好方式是不让人类生育。另外,如果超级智能被设定为要让人类微笑,那它们可能决定在人体植入电极,让所有人保持微笑。

这些都是思想实验,但他想表达的是,人类现在的状况属于异常,工具已经压倒了自然的限制,让人类看起来成了主宰,但如果技术反噬呢?

还有一个人更为激进:Max Tegmark。他是MIT物理系教授,也是未来生活研究所(FFI)的创始人,而这一机构就管理着马斯克投资的钱。他认为未来是技术的力量与人类控制它的智慧之间的竞争,人类必须赢得竞争,但现在所有的资源都在助力技术的增长。

2014年4月,有33个人聚焦在Tegmark的家中,讨论技术的威胁,后来他们决定成立FLI。Tegmark还说服了其他知名人士加入自己,其中包括Skype的创始人Jaan Tallinn,演员摩根·弗里曼和Alan Alda。

Tegmark后来还发布了一篇专版文章,讨论机器智能的潜在危险。文章署名作者还包括诺贝尔奖得主物理学家Frank Wilczek,人工智能专业Stuart Russell和霍金。文章中写道,人工智能是“人类面临的最好也最坏的事”。

Google无人驾驶汽车

那其他人的观点呢?

离Tegmark的办公室不远的地方就是MIT的计算机科学与人工智能实验室。实验室主管Daniela Rus认为,“我没想过这些事”。她正在开发绝不会发生碰撞的汽车。而且多数AI研究者都认为Bostrom和Tegmark的想法不太成熟,就像现在担心火星会人口过剩。

Rus表示,机器人的优势在算数和负重上,在精细运动上仍比不上人类,更不用提创造性和抽象思维。无人驾驶汽车就需要精确的地图,而且只能应会可预测的环境,想要它们理解其他司机的手势还是不可能的事。

担心未来的人在考虑时可能还要考虑超级智能的反面:超级愚蠢(superstupidity)。我们现在依靠的复杂系统很容易在复杂和不可预测的情况下失灵。如果智能机器失灵了,会产生怎样的后果?而且通常的情况下,没人真正了解这些系统如何工作。如果加入自治功能,事物可能很快变成灾难。2010年股市出现过闪电崩盘,以至于道琼斯指数几分钟内直降近1000点,而部分原因来自自动化的超频交易程序。

另一位MIT研究者Boris Katz就认为,我们每天都会做出很愚蠢会犯错的东西。机器之所以危险是因为我们给了他们力量,让其对感觉输入作出反应。但人类制作的规则并不完善,所以机器会出错,但这并不表示它们想杀死人类。

Bostrom也认为,如果开发不出超级智能,那会是件很遗憾的事,因为人工智能可为人类带来更多的可能性,甚至帮我们实现星际殖民,以及思维上传到计算机这种事。

Bostrom另一点比较科幻的想法是,他认为高级文明拥有无限的计算能力,超级智能可以创造出宇宙,在其中程序可以精确模拟出人类意识,注入虚假的记忆。他认为除非我们能排除机器可以模拟人类经验的可能性,否则我们很可能就生活在这样一个模拟世界中。这真的很科幻了。

本文分享自微信公众号 - 新智元(AI_era)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2016-01-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Science子刊封面:仅需20%信息,AI场景全再现!

    当我们给计算机视觉系统输入一张照片时,它们可以很容易捕获照片中的信息。但是,自主捕获信息对于计算机视觉系统还是非常困难的。

    新智元
  • 纽约客:AI 是否会成为人类的最后发明?

    【导读】Nick Bostrom 是《超级智能:路线图、危险性与应对策略》的作者,他认为真正的人工智能可能拥有巨大的威胁,如果人类没有小心处理,很可能会走向自我...

    新智元
  • 【兵棋工程总师点评】AlphaGo 的胜利与未来战争变革的曙光

    ? 胡晓峰,国防大学教授,少将军衔,兵棋工程总师。兼任中国系统仿真学会副理事长,军事运筹学会副理事长等职。长期从事智能化战争模拟及军事系统工程教学与研究工作,...

    新智元
  • java mp3 播放器

    py3study
  • JavaUtil_09_email_使用 commons-email 发送邮件

    shirayner
  • 当代数恒等式遇上魔术(二)

    比如亚里士多德的更重的小球下落更快,到牛顿力学定律,到爱因斯坦相对论,在相当长的时间内这些东西被人们视作真理,而确实随着一代人一代人的努力,这些人类的认知像积分...

    magic2728
  • Spring Cloud(二)《服务提供与负载均衡调用 Eureka》

    本章节提供一个基于Eurka的服务注册中心,两个服务提供者之后分别使用Ribbon、Fegin方式进行调用,测试负载均衡。

    小傅哥
  • 漫谈计算机组成原理(十)浮点数运算

    浮点数和定点数一样,都是计算机中数据的存储形式。定点数我们可以理解成纯小数或者纯整数,但是实际上在计算机中参与运算的数字并非都是定点数。比如,有些数据过大,比如...

    roobtyan
  • 数据科学行业的8个关键角色:职责与技能

    大数据文摘
  • 数据科学行业的8个关键角色:职责与技能

    第二届世界互联网大会的召开,将大数据战略推向了又一高潮,许多与数据相关的职位如雨后春笋般涌现,数据科学家、数据分析师、数据架构师、统计学家、数据库管理员、商业分...

    华章科技

扫码关注云+社区

领取腾讯云代金券