李飞飞极力反对AI用于武器，谷歌将发布军事AI原则

新智元报道

来源：综合NYT、Gizmodo、Wired等

编辑：克雷格、肖琴

【新智元导读】谷歌与五角大楼Maven项目合作的项目价值仅900万美元，但在内部引发了一场大讨论，媒体报道谷歌最近正在制定一套准则，将禁止在武器中使用人工智能。

谷歌备受关注的国防部Maven合作项目或许要告一段落。

纽约时报30日报道，谷歌正在制定一套准则，以指导其参与开发用于军事的AI工具。这些指导准则究竟会有哪些规定尚不清楚，但谷歌表示，他们将禁止在武器中使用人工智能。

报道中还披露了谷歌与五角大楼Maven项目合作一些细节：

• 交易金额非常少，只有900万美元；
• 谷歌内部对与军方的合作争论非常激烈，所以才引起了十几人辞职抗议；
• 李飞飞曾极力反对，但最终决定是由她的老板、谷歌云首席执行官Diane Greene做出的。

一场本可以避免的危机事件

去年8月，美国国防部长Jim Mattis到硅谷访问谷歌高层。

次月，谷歌有史以来第一份与五角大楼的AI合同出现，几名谷歌高管讨论这份合同的可行性，其中包括李飞飞。

李飞飞强烈建议回避“AI”这两个字母。后来她在给《纽约时报》的一封电子邮件中写道，谷歌应该“不惜一切代价避免提及或暗示任何人工智能。武器化人工智能可能是人工智能最敏感的话题之一”。如果谷歌与军方合作，对媒体来说是“red meat”。

“我不知道如果媒体开始错误报道谷歌正在秘密制造人工智能武器或人工智能技术来为国防工业提供武器，会产生什么后果。”李飞飞说，“我相信以人为中心的AI能以积极、善意的方式造福人类。任何AI武器化的项目，都是违背我的原则的。”

后来发生的4000人联名上书、十几人集体辞职抗议的事实证明，李飞飞的预见是对的，但她的反对没有起到作用。最终，李飞飞的上司、谷歌云首席执行官Diane Greene决定跟军方合作。

更严重的是，谷歌也没有将与Maven项目合作的事情对外公布，直到有部分员工开始在谷歌强大的内部沟通平台上反对时，事情才慢慢被更多人知晓，随后便引发出了后续一连串的事件。

被媒体和谷歌员工关注的Maven项目，是使用机器学习来识别无人机镜头中的车辆和其他物体，从而减轻分析人员的负担。谷歌向国防部提供用于机器学习应用的TensorFlow API，以帮助军事分析人员检测图像中的物体。

另据Wired报道，Maven项目正在拓展，包括更广泛地部署无人机监视算法。Maven项目负责人Jack Shanahan表示，他的团队现在正在“完善”无人机飞行的算法，并将很快在高空侦察机上工作。

此外，Shanahan还说，Maven项目未来会将人工智能应用于新的军事领域。其中包括是利用机器学习算法来帮助分析人员在获取的硬盘上查找最重要的资料。

交易金额“仅”900万美元，谷歌内部大讨论

当与国防部合作的消息在内部泄露到时，Diane Greene在每周的全公司TGIF（Thanks God, it's Friday）会议上发言。据两名知情人士透露，她解释说该项目不是为了致命目的，而且这笔交易价值“仅”900万美元，是一笔相对较小的交易。

不过，Diane Greene的解释并没有遏制员工们愤怒。

另据Gizmodo报道，除了Maven项目外，五角大楼另一项价值上百亿美元的云计算JEDI项目（the Joint Enterprise Defense Infrastructure，联合企业国防基建项目）正在竞标，IBM和微软证实了他们对JEDI合同有兴趣，谷歌员工担心谷歌会参与项目招标，因此对谷歌与军方的任何合作都保持警惕。

谷歌在4月11日举行了一场讨论，参加的有Diane Greene、谷歌AI研究员Meredith Whittaker（反Maven运动的领导者）、以及谷歌副总裁Vint Cerf等。由于关注度非常高，讨论在一天内进行了三次，以供谷歌在全球不同地区的员工观看。

据观看讨论的员工透露，Greene坚定地认为，Maven项目没有将AI用于攻击目的，而Meredith Whittaker认为很难界定如何使用该技术。

上周四，谷歌联合创始人Sergey Brin在全公司会议上回答了关于Maven工作的一个问题。

据两名谷歌员工称，Sergey Brin表示他理解这一争议，并与Larry Page和Sundar Pichai进行了广泛的讨论。不过，他表示，如果世界各国的军队都与谷歌这样的国际组织合作，而不是仅仅与民族主义的国防承包商合作，这将有利于和平。

谷歌拟制定原则：禁止把人工智能应用到武器中

谷歌CEO Pichai也在上周四的全公司会议上表示，谷歌希望制定出“能够经受住时间考验”的指导原则，这些原则将指导其在国防和情报外包领域的合作。一些员工们透露，谷歌预计在未来几周内将在内部宣布这些原则。

纽约时报称，谷歌新制定的原则禁止人工智能应用到武器中，但目前还不清楚这种禁令将如何在实践中应用。

谷歌及其母公司Alphabet公司雇佣了许多世界顶级的人工智能研究人员。这些研究人员中的许多人最近都来自学术界，有些人保留了教授职位，其中包括Geoff Hinton。

Geoff Hinton一直公开表示他不愿意为美国政府工作，20世纪80年代后期，Hinton离开美国去加拿大的部分原因是他不愿意从国防部获得资金。

谷歌人工智能统帅Jeff Dean也在本月的开发者大会上说，他已经签署了一封反对使用所谓自主武器的联名信。

而谷歌旗下的DeepMind的创始人之一Mustafa Suleyman也参与了与谷歌领导层对Maven项目政策的讨论。

Maven项目俨然成了谷歌的一场“真理标准问题大讨论”。

这件事不仅给谷歌员工造成重创，引发了激烈的员工会议和内部调换，并促使一些员工辞职。一些人选择辞职的员工认为，Maven项目让谷歌鼓励员工自由表达的工作环境不复存在了。而在谷歌纽约市办事处还被贴上了“做正确的事”的贴纸。

这也让包括李飞飞在内的一些谷歌高级人员感到悲痛，他们试图跨过一个鸿沟：即道德上有强烈反对意见的科学家和对国防合同垂涎的销售人员之间的鸿沟。

但鸿沟真的容易跨越吗？

参考资料：

https://mobile.nytimes.com/2018/05/30/technology/google-project-maven-pentagon.html

https://www.wired.com/story/googles-contentious-pentagon-project-is-likely-to-expand/

https://gizmodo.com/google-employees-resign-in-protest-against-pentagon-con-1825729300