谷歌将禁止AI用于武器,李飞飞等“反对与军方合作”事件始末

安妮 编译整理 量子位 出品 | 公众号 QbitAI

轰轰烈烈的“谷歌员工抵制与军方合作”事件即将尘埃落定。最终,还是打出反对牌的谷歌员工赢了。

这件事情并不复杂:谷歌与美国国防部合作开发军用无人机项目Maven,但谷歌员工认为,这个项目可能会被五角大楼用于无人机杀人,强烈抗议并且呼吁谷歌退出此项目

直到昨天,这件事又有重大进展曝光出来。

据《纽约时报》报道,谷歌计划发布新的指导准则,将禁止在军事武器方面使用人工智能技术。预计在未来几周内,将正式发布新准则。

从去年9月到昨天,在这长达8个月的内部反抗史里,多位关键人物曾预测、推动了事件的发展,包括谷歌云首席科学家李飞飞。

量子位试图还原整个“抵制军方项目抗争史”的发展始末。

事件初始:李飞飞的担忧

去年9月,当紧张的谷歌高层讨论如何对外公布这个与五角大楼的AI合作契约时,李飞飞开始担忧此事可能制造一场骚乱,强烈建议回避“AI”这个词。

据《纽约时报》报道,李飞飞曾给同事的邮件中写道:“AI武器可能是AI技术中最敏感的话题之一,媒体可能会对此大做文章,从而对谷歌风评不利。”

对于AI用于军事目的,李飞飞本人并不赞同。“我相信以人为中心的AI能以积极和慈善的方式让人类受益,任何AI武器项目都违背我的原则。”

谷歌云首席科学家李飞飞

李飞飞的担忧不是没有道理。

在与国防部合作的Maven项目中,需要用机器学习处理无人机收集的动态视频数据,甚至可能会被用于杀人目的。还有知情人士透露谷歌还在帮助国防部配置软件。

对一向以“不作恶”为信条的谷歌来说,员工可能会认为这场合作会导致人才流失,并且与谷歌核心价值观不符。

此时,高层已经有一些反对的声音,比如谷歌DeepMind的一名高管就明确表示反对谷歌参与军事项目和监督任务,并对与国防部的合作提出了抗议。DeepMind的态度并不让人意外,在被谷歌收购时,双方就曾在协议中指出,DeepMind的技术将永远不会被用于军事或监控用途。

这个阶段,谷歌还没对外公布Maven项目,只有内部一些高管了解此事。

冲突加剧:员工抗议

消息是从谷歌内部的交流平台泄露的,李飞飞担忧的事情也终于发生了。

3月,谷歌内部3000多名员工联名上书,抵制谷歌与五角大楼的合作。

4月,事件进一步发酵,包括Bengio等上百名学者、科学家二次上书,数十名员工因此离职,要求谷歌退出Maven项目,并且起草政策声明谷歌永远不会开发战争技术。

联名上书反对的部分学者名单

硅谷巨头谷歌与美国政府之间的文化冲突愈演愈烈。

谷歌高层不淡定了。

在本月最新修改的行为准则中,谷歌悄悄将“不作恶“原则调整到了最后。

900万美元

从3月爆发到5月修改准则之间,有个小插曲。

在以谷歌员工及学者为代表的反对派和以谷歌部分高管为代表的支持派僵持不下时,李飞飞的领导、谷歌云CEO Diane Greene出面了。

《纽约时报》报道,Greene表示,这个项目没有杀人目的,并且规模很小,交易金额仅为900万美元。

外媒Defense One曾有过报道,去年,美国国防部对Maven预算的资金规模为7000万美元,谷歌手持的900万占比12.8%。谷歌2017年财报显示,去年,谷歌总营收为319.14亿美元,单看交易金额,Maven只占去年谷歌营收的0.28%。

Greene的澄清并没有止住谷歌群众的愤怒,在4月11日,谷歌内部为此进行了一场讨论,小组成员包括反对派的谷歌AI研究员Meredith Whittaker,以及支持派的谷歌副总裁Vint Cerf。

这一天的辩论总共进行了三场,谷歌内部的员工都能够在线观看。

“革命胜利”

“胜利”来的有点突然。

在上周四的全员会议上,谷歌CEO劈柴(Pichai)表示,将会提出新的“经得住时间考验”的准则,作为谷歌在国防和情报承包等事项的行动指南。

《纽约时报》称,这项准则会限制人工智能在武器中的应用

至此,“反对派”的谷歌员工终于能松口气了。

现在回看,谷歌内部的研究人员很多来自学术界,在学术界,反对军事项目的声音一直存在。

比如,深度学习的大牛Geoff Hinton曾公开不愿意为美国政府效劳,离开美国去加拿大的部分原因是也是不愿从美国国防部获得资金。

再比如谷歌大牛Jeff Dean,在本月一次会议上已经表示,他已经签署了反对使用机器学习自动武器的公开信。

事已至此,结局基本已定。

谷歌将制定禁止将AI用于军事化武器的新准则,只是,这家硅谷巨头和美国政府之间的文化冲突,依旧剧烈。

作者系网易新闻·网易号“各有态度”签约作者

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-05-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技大本营的专栏

AI一分钟 | 苹果9月13日凌晨召开发布会;林斌晒小米手机新品,“撞脸”荣耀Magic 2

8 月 31 日凌晨,苹果官方正式宣布,将于北京时间 9 月 13 日凌晨 1 点(美国当地时间 9 月 12 日上午 10 点)举办 Apple 特别活动,届...

1014
来自专栏企鹅号快讯

科学技术与社会研究反思与规范

纵观2017年我国科学技术与社会(Science, Technology and Society, STS)研究,主要聚焦在两个关键词上:“人工智能”与“基因编...

2009
来自专栏新智元

【AI TOP 10】马化腾点赞搜狗 AI 答题助手,周鸿祎说太流氓;中国首条无人驾驶单轨线路正式通车

新智元AI TOP 10 新智元 “每日AI ·TOP 10” 是新智元推出的一档快读栏目,精选汇集每日国内外最重大产业新闻,第一时间为读者送上新鲜资讯,...

36710
来自专栏机器人网

“梦想工厂”Google X里的那些超酷项目

美国很多牛逼公司都有自己的秘密实验室,此前最著名的是美国电话电报公司(AT Labs)、施乐帕克研究中心(Xerox PARC)。但现在最受万众期待的肯定是Go...

2967
来自专栏Coding迪斯尼

以‘不作恶’来作恶的谷歌和被略根性滋养的中国互联网

互联网一个特点是,从来不缺乏热闹。这几天在网上又引发了一件让人经不住想去凑热闹的事情。《人们日报》在Twitter和facebook上发言,知道这两个网站的人可...

912
来自专栏新智元

李飞飞极力反对AI用于武器,谷歌将发布军事AI原则

1314
来自专栏新智元

【AI Top 10】Google I/O来袭:三大主题AI与ML等;百度12亿剥离游戏业务聚焦AI;亮亮视野获蓝驰千万美元融资

新智元每日AI TOP 10 新智元 “每日AI ·TOP 10” 是新智元从 2017年5月起推出的一档快读栏目,精选汇集每日国内外最重大产业新闻,第一...

2914
来自专栏生信技能树

“精准医学研究”重点专项阶段性成果大揭秘

自从2016年科技部公布了国家重点研发计划 “精准医学研究”重点专项,陆续有97(2016年第一批批准61个,2017年第二批批准36个)个项目获得支持。

2392
来自专栏VRPinea

以改变游戏规则著称的亚马逊,会在VR+新零售的道路越走越远吗?

近日,亚马逊又搞了个大动作,即在刚刚落幕的美国圣地亚哥国际动漫展(SDCC)上(SDCC 2018朝圣日|从DC、福斯、索尼到VR,各种漫展专场一应俱全!),搭...

1152
来自专栏灯塔大数据

2015年大数据做了哪些接地气的事儿?

不久前,美国硅谷‍‍大数据公司‍‍‍‍‍‍‍Palantir Technologies获得‍‍‍‍‍融资6.798亿美元,这家被称为美国最神秘的新创公司估值2...

3527

扫码关注云+社区

领取腾讯云代金券