把“AI威胁论”观念植入马斯克大脑的那个人,现在“反水”了

唐旭 发自 凹非寺 量子位 报道 | 公众号 QbitAI

如何把一个想法植入富豪的大脑?要么来一套“盗梦空间”,要么写一本书。

Nick Bostrom(尼克·波斯特洛姆),牛津大学人类未来研究院院长、教授、哲学家,畅销书《超级智能》的作者——比尔·盖茨和马斯克都将他的书列为必读推荐,马斯克甚至出资100万英镑支持他的机构继续自己的研究。

Bostrom被认为是在很大程度上影响了马斯克对于AI态度的人。

2014年8月,刚刚读完《超级智能》的马斯克难掩内心澎拜,并在推特上第一次呼吁人们警惕人工智能的威胁,从此一发而不可收。

“我们必须对AI保持警惕。它们可能比核武器更加危险。”

在书中,Bostrom将超越人类的通用机器智能视作人类“灭亡性的威胁”(existential risk),上周末在罗德岛的美国全国州长协会(NGA)夏季会议上,马斯克谈及人工智能时,使用的是相同的表述;除此之外,去年六月,马斯克在Code大会上曾经声称我们活在电脑模拟出来的虚拟世界中,其来源其实也是Bostrom在2003年提出的观点。

然而,在对AI的态度上,马斯克显然已经比他的“导师”更为激进,以至于最近Bostrom都坐不住了。

“几年前我写了一本探讨AI长期影响的书,给一些人留下了点印象。我想借这个机会说一句,我对此其实并没有那么悲观。”Bostrom在今年USI的演讲上说。

“我花了好多页去论述,一旦超级智能实现之后,哪些糟糕的事情将可能会发生——但那是因为对于写一本书来言,将细节、纹理描绘出来更为重要,这样才能让人们看清其中的隐患在哪并更好地避开它们。”

“但花了这么多篇幅描绘悲观的一面,并不意味着我认为这种悲观的情况是更有可能发生的。”

Bostrom说出上述这番话的时间是今年的6月19日,比马斯克最近一次发出警告的时间早了近一个月。

他当然没听进去。事实上这也仅仅是个开始。

这不是马斯克第一次公开呼吁人们注意、警惕乃至管控AI。不管他把AI比作核武器还是恶魔,前几次,反对者们其实也就是一笑了之,毕竟这么想的也不只他一个;但这回全美国的州长面前再次重复了一遍自己的观点之后,马斯克被怼惨了。

“想象一下,你有机会告诉全美国最有权势的50位政客,自己认为需要政府立即行动的、最急迫的问题是什么。过去的这个周末马斯克就有这样的机会。结果他选择提醒这些州长对人工智能保持警惕,以免其消灭人类。”

马斯克发出警告两天之后,《MIT科技评论》在旧金山的总编辑Tom Simonite发表了一篇题为《不去解决真正的AI问题,马斯克已经被杀手机器人吓尿了》的文章,批评马斯克总在异想天开,不切实际。

一位华盛顿大学机器学习方面的教授Pedro Domingos在文中称:“我们中的许多人都在试图教会他以及其他一些像他这样的人,在AI的危险性上什么是真实的,什么是虚幻的,但显然没人能打动他。”

Yann LeCun后来也转推了这篇文章。

没完。转天,《发现》杂志干脆直接了联系了几位计算机科学和未来学领域的大牛,正面对马斯克的观点进行回应。

量子位将其中一些回应节选如下:

Oren Etzioni(华盛顿大学计算机科学教授、艾伦人工智能研究所CEO):“伊隆·马斯克对于将AI视作人类根本存在性威胁的执拗让他心烦意乱,而他真正应该关心的问题是AI对于工作和武器系统这些东西的影响。公众真正需要的是能够说明AI积极和消极两种影响的、有价值的信息。我们需要分清科学和科幻。在科幻中,AI经常被刻画成阴谋夺取世界的坏人,但在现实中,AI只是一种工具。”

Toby Walsh(新南威尔士大学人工智能教授):“伊隆·马斯克的言论危言耸听了。我最近对300名领先的AI研究者做了一次调查(论文在这:https://arxiv.org/abs/1706.06906),他们中的绝大部分都认为,要让机器变得和人一样聪明至少还需要50年时间。因此这不是一个需要立即注意的问题。”

“不过伊隆在一件事上说对了:我们需要政府现在就开始对AI进行管控。然而,需要开始管控的是今天我们所用的傻瓜人工智能,比如带有偏见的算法、开发“杀手机器人”的军备竞赛、科技公司对于个人、医疗数据隐私的威胁。”

李飞飞(斯坦福人工智能实验室主任):“独立的机器价值观并不存在,机器价值观就是人类的价值观。如果人类真的担心一种技术会对未来造成的影响,AI、能源或是其它什么东西,那就让各行各业都参与到这项技术的开发和应用中来。

马斯克在NGA大会上

“不管是斯坦福、谷歌还是特斯拉,每个技术专家都有责任去开发那些‘善意’的技术,来让我们的社会变得更好。作为一名AI教育者和技术专家,我最大的愿望就是能在这个领域看到更多的多元性和内涵,不管是在AI的发展上,还是在AI观点的传播上。”

机器人领域的知名大牛、MIT计算机科学与人工智能实验室的创始主任Rodney Brooks,在接受TechCrunch采访时同样谈到了这个问题。

“有很多人都声称AI是人类存在的威胁:斯蒂芬·霍金、马丁·里斯爵士……在没有亲身在AI领域工作的情况下,这样的想法很普遍。我们能够理解,对于那些不在AI领域工作的人,要通过产品级别的东西来弄明白一些问题有多么困难。”

这就是包括伊隆在内的那些人所犯的错误。当看见一个人把某件任务完成得很好,我们能够理解这其中所需的能力——我认为,他们把机器学习当成了同样的模式。当人们看到DeepMind开发的AlphaGo接连战胜韩国和中国的冠军时,他们会想,‘哦天啊,机器太聪明了,它几乎能做任何事情!’但三周之间我就在DeepMind位于伦敦的总部,他们自己都承认,人们很容易就会对这件事产生误解。”

对于马斯克提到的监管问题,Brooks接着怼道:“如果你现在要有一个监管措施,要么它会被用到什么东西上改变一些事情,要么它根本用不到任何东西上。如果它用不到任何东西上面,你要这监管有毛用?告诉我,你到底想改变什么行为,伊隆?顺便,我们还是谈谈对特斯拉无人车的监管吧,这才是真正的问题。”

当然,也不是完全没人同意马斯克的看法。美军空军四星上将Paul Selva在回答关于美国国防部一道指令的相关问题时,就表达了对马斯克的支持。这道指令要求,当自动机器能够杀死敌军士兵时,人类操控者必须介入这一决策过程。将军说,在战争中,军队在恰当的位置坚守道德准则非常重要,否则我们可能会同胞放出了一群自己控制不了的机器人。

对于马斯克的观点,Selva说:“在真正看到机器人到街上杀人之前,人们都不会知道怎么应对。因为它看上去太虚无缥缈了。”

“在我看来AI就属于这种非常罕见的情况,我们需要主动、提前去监管,而不是被动地去反应。在我们需要对AI的监管进行反应时,已经太晚了。”

马斯克还是那个马斯克。无论是支持还是反对,对这些言论,他没有做出任何回应——在最近的推特上,他宣布自己刚刚拿到了政府对于在地下建造连接纽约、费城、巴尔的摩与华盛顿的超级高铁Hyperloop的口头许可。

实现之后,从纽约到华府只需要29分钟。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2017-07-23

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏钱塘大数据

未来已来,2017年大爆发的15个新科技

技术所带来的革命性体验,一直是未来社会发展的风向标。无人机、人工智能、大数据、VR\AR……好多词汇你已经听到耳朵起茧,但这些技术究竟还有哪些可能性,你也许并不...

29770
来自专栏PPV课数据科学社区

不要因为票房预测失灵,就全盘否定大数据对于电影业的价值

? 百度对《黄金时代》的票房预测遭遇滑铁卢近期引发行业热议,不少同仁开始怀疑大数据对于电影业的价值。但在娱乐资本论看来,因为票房预测失灵,就全盘否定大数据并不...

33750
来自专栏CDA数据分析师

2015年,人工智能到底有哪些应用(超详细!)

时至2015,科技界的气氛与往年大不一样:似乎影片《超能陆战队》、《星际迷航》、《机械公敌》中,那些遥远的科技场景都将走进我们的生活。因为,人工智能时代真的来临...

48760
来自专栏大数据文摘

谷歌员工吐槽:人生不如意十之八九 在谷歌工作也不容易

19450
来自专栏全栈数据化营销

如何分析珠宝市场需求,并且建立可执行渠道

前几年崖柏火热时,购进了大量原料,在古玩城卖爆——虽然售价高,好在库存足,进价低,品质好,工艺好。 但这近年炒家太多,上来就假货加价格战,线下难搞——所以想布局...

39950
来自专栏飞总聊IT

高效能职场发展(序):职场发展是可以学习的

8130
来自专栏机器人网

智能机器人能够超越人类吗?

人工智能等新技术、新材料的突破,不断拓展着人们对机器人的想象空间。智能机器人会比人更强吗? 一千个人心中有一千个哈姆雷特,而对于机器人的想象,可能就只有一个:像...

36050
来自专栏新智元

Google 黯然解散机器人部门:多足的黄昏,轮式的胜利

【新智元更正】昨天新智元头条文章事实有误,谷歌解散的是机器人部门,而不是波士顿动力。我们在稿件撰写和审核中没有核对新闻源,造成读者困扰,深表抱歉。经新智元读者迅...

37060
来自专栏大数据文摘

可穿戴设备之父艾里克斯·本特

18550
来自专栏BestSDK

世界上第一位程序员是名女性,为何到现在绝种了?

你脑中的计算机程序员是什么样?是男性,年轻的男性吗?你是对的,因为事实如此。数一数每天出现在科技媒体上的人名:比尔·盖茨、史蒂夫·乔布斯、伊隆·马斯克、马克·扎...

36490

扫码关注云+社区

领取腾讯云代金券