李飞飞极力反对AI用于武器,谷歌将发布军事AI原则


新智元报道

来源:综合NYT、Gizmodo、Wired等

编辑:克雷格、肖琴

【新智元导读】谷歌与五角大楼Maven项目合作的项目价值仅900万美元,但在内部引发了一场大讨论,媒体报道谷歌最近正在制定一套准则,将禁止在武器中使用人工智能。

谷歌备受关注的国防部Maven合作项目或许要告一段落。

纽约时报30日报道,谷歌正在制定一套准则,以指导其参与开发用于军事的AI工具。这些指导准则究竟会有哪些规定尚不清楚,但谷歌表示,他们将禁止在武器中使用人工智能。

报道中还披露了谷歌与五角大楼Maven项目合作一些细节

  • 交易金额非常少,只有900万美元;
  • 谷歌内部对与军方的合作争论非常激烈,所以才引起了十几人辞职抗议;
  • 李飞飞曾极力反对,但最终决定是由她的老板、谷歌云首席执行官Diane Greene做出的。

一场本可以避免的危机事件

去年8月,美国国防部长Jim Mattis到硅谷访问谷歌高层。

次月,谷歌有史以来第一份与五角大楼的AI合同出现,几名谷歌高管讨论这份合同的可行性,其中包括李飞飞。

李飞飞强烈建议回避“AI”这两个字母。后来她在给《纽约时报》的一封电子邮件中写道,谷歌应该“不惜一切代价避免提及或暗示任何人工智能。武器化人工智能可能是人工智能最敏感的话题之一”。如果谷歌与军方合作,对媒体来说是“red meat”。

“我不知道如果媒体开始错误报道谷歌正在秘密制造人工智能武器或人工智能技术来为国防工业提供武器,会产生什么后果。”李飞飞说,“我相信以人为中心的AI能以积极、善意的方式造福人类。任何AI武器化的项目,都是违背我的原则的。”

后来发生的4000人联名上书、十几人集体辞职抗议的事实证明,李飞飞的预见是对的,但她的反对没有起到作用。最终,李飞飞的上司、谷歌云首席执行官Diane Greene决定跟军方合作。

更严重的是,谷歌也没有将与Maven项目合作的事情对外公布,直到有部分员工开始在谷歌强大的内部沟通平台上反对时,事情才慢慢被更多人知晓,随后便引发出了后续一连串的事件。

被媒体和谷歌员工关注的Maven项目,是使用机器学习来识别无人机镜头中的车辆和其他物体,从而减轻分析人员的负担。谷歌向国防部提供用于机器学习应用的TensorFlow API,以帮助军事分析人员检测图像中的物体。

另据Wired报道,Maven项目正在拓展,包括更广泛地部署无人机监视算法。Maven项目负责人Jack Shanahan表示,他的团队现在正在“完善”无人机飞行的算法,并将很快在高空侦察机上工作。

此外,Shanahan还说,Maven项目未来会将人工智能应用于新的军事领域。其中包括是利用机器学习算法来帮助分析人员在获取的硬盘上查找最重要的资料。

交易金额“仅”900万美元,谷歌内部大讨论

当与国防部合作的消息在内部泄露到时,Diane Greene在每周的全公司TGIF(Thanks God, it's Friday)会议上发言。据两名知情人士透露,她解释说该项目不是为了致命目的,而且这笔交易价值“仅”900万美元,是一笔相对较小的交易。

不过,Diane Greene的解释并没有遏制员工们愤怒。

另据Gizmodo报道,除了Maven项目外,五角大楼另一项价值上百亿美元的云计算JEDI项目(the Joint Enterprise Defense Infrastructure,联合企业国防基建项目)正在竞标,IBM和微软证实了他们对JEDI合同有兴趣,谷歌员工担心谷歌会参与项目招标,因此对谷歌与军方的任何合作都保持警惕。

谷歌在4月11日举行了一场讨论,参加的有Diane Greene、谷歌AI研究员Meredith Whittaker(反Maven运动的领导者)、以及谷歌副总裁Vint Cerf等。由于关注度非常高,讨论在一天内进行了三次,以供谷歌在全球不同地区的员工观看。

据观看讨论的员工透露,Greene坚定地认为,Maven项目没有将AI用于攻击目的,而Meredith Whittaker认为很难界定如何使用该技术。

上周四,谷歌联合创始人Sergey Brin在全公司会议上回答了关于Maven工作的一个问题。

据两名谷歌员工称,Sergey Brin表示他理解这一争议,并与Larry Page和Sundar Pichai进行了广泛的讨论。不过,他表示,如果世界各国的军队都与谷歌这样的国际组织合作,而不是仅仅与民族主义的国防承包商合作,这将有利于和平。

谷歌拟制定原则:禁止把人工智能应用到武器中

谷歌CEO Pichai也在上周四的全公司会议上表示,谷歌希望制定出“能够经受住时间考验”的指导原则,这些原则将指导其在国防和情报外包领域的合作。一些员工们透露,谷歌预计在未来几周内将在内部宣布这些原则。

纽约时报称,谷歌新制定的原则禁止人工智能应用到武器中,但目前还不清楚这种禁令将如何在实践中应用。

谷歌及其母公司Alphabet公司雇佣了许多世界顶级的人工智能研究人员。这些研究人员中的许多人最近都来自学术界,有些人保留了教授职位,其中包括Geoff Hinton。

Geoff Hinton一直公开表示他不愿意为美国政府工作,20世纪80年代后期,Hinton离开美国去加拿大的部分原因是他不愿意从国防部获得资金

谷歌人工智能统帅Jeff Dean也在本月的开发者大会上说,他已经签署了一封反对使用所谓自主武器的联名信。

而谷歌旗下的DeepMind的创始人之一Mustafa Suleyman也参与了与谷歌领导层对Maven项目政策的讨论。

Maven项目俨然成了谷歌的一场“真理标准问题大讨论”。

这件事不仅给谷歌员工造成重创,引发了激烈的员工会议和内部调换,并促使一些员工辞职。一些人选择辞职的员工认为,Maven项目让谷歌鼓励员工自由表达的工作环境不复存在了。而在谷歌纽约市办事处还被贴上了“做正确的事”的贴纸。

这也让包括李飞飞在内的一些谷歌高级人员感到悲痛,他们试图跨过一个鸿沟:即道德上有强烈反对意见的科学家和对国防合同垂涎的销售人员之间的鸿沟。

但鸿沟真的容易跨越吗?

参考资料:

https://mobile.nytimes.com/2018/05/30/technology/google-project-maven-pentagon.html

https://www.wired.com/story/googles-contentious-pentagon-project-is-likely-to-expand/

https://gizmodo.com/google-employees-resign-in-protest-against-pentagon-con-1825729300


原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-05-31

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏空帆船w

谷歌要回归中国了吗?

前不久 Facebook 在杭州落地。就在昨天,人民日报海外版发推,表示欢迎谷歌返回中国大陆,但是必须要遵守中国的网络管理法。

1223
来自专栏华章科技

全球大数据领域20位最顶尖人才

Pinterest是一家以图片为主的社交网络,数据科学家安德莉亚·伯班克主要负责该公司的A/B测试,评估公司网站、APP的外观或功能变化会对它的6000万全球用...

1583
来自专栏BestSDK

一周简报|涂图SDK上线艺术滤镜云服务,助力开发者轻松实现Prisma效果

Face++入榜2017全球最具突破性品牌,人脸识别领域力压Facebook人脸团队;国资委与图灵机器人签订意向合作协议,打造人工智能卡通大使小新;捷通华声助力...

3896
来自专栏量子位

谷歌将禁止AI用于武器,李飞飞等“反对与军方合作”事件始末

931
来自专栏镁客网

传送科技姜英才:未来五年内,PC VR都会变为无线VR | 镁客请讲

2010
来自专栏哲学驱动设计

30天敏捷结果(10) - 强化你的一周

   “Life is not measured by the number of breaths we take, but by the moments th...

1957
来自专栏程序你好

大龄程序员没有出路,真的如此吗?

1111
来自专栏生信技能树

“精准医学研究”重点专项阶段性成果大揭秘

自从2016年科技部公布了国家重点研发计划 “精准医学研究”重点专项,陆续有97(2016年第一批批准61个,2017年第二批批准36个)个项目获得支持。

1532
来自专栏PPV课数据科学社区

《财富》精选:2014年大数据行业最顶尖的20位明星人才

大数据不只是要处理很多的数字,还得要通过这些数字建立模型、深入挖掘,并且寻找那些有可能改变企业运营方式的信息。以下谨为大家介绍20位大数据领域的顶尖人才。 Pi...

2493
来自专栏镁客网

开启脑洞模式,一个关于安保无人机的未来构想

1013

扫码关注云+社区