专栏首页ATYUN订阅号Google内部掀起风波,员工抗议与军方合作有关人工智能的项目

Google内部掀起风波,员工抗议与军方合作有关人工智能的项目

AiTechYun

编辑:chux

为了赢得云计算业务,Google开始投入战争业务。一些工作人员担心这是朝自动杀人机器迈出的第一步。

去年7月,13名美国军事指挥官和技术高管在距离Google总部两英里的五角大楼硅谷前哨会见。这是在2016年成立的咨询委员会的第二次会议,就如何将技术应用于战场向军方提供咨询。Google副总裁Milo Medin将谈话转向在战争游戏中使用人工智能。

几个月后,国防部聘请Google的云部门负责Maven项目的工作,这是一项大力加强其监控无人机的技术,帮助机器思考。

近4000名Google员工签署了一封信函,要求Google首席执行官Sundar Pichai拒绝签署Maven项目合同,并停止“战争行业”的所有工作。

请愿书引用了Google避免军事工作的历史和著名的“不要做恶”的口号。Alphabet的AI研究实验室之一甚至已经远离了该项目。反对这项交易的员工认为,它是朝向杀人机器人迈出的第一步。Gizmodo在周一报道中称,大约有十几名员工辞职,以此抗议公司继续参与Maven项目的活动。

知情人士表示,Pichai和他的副手正在起草道德原则,以指导Google强大的人工智能技术的部署,这将影响其未来的工作。Google是争夺五角大楼云计算合同价值至少100亿美元的几家公司之一。Google发言人拒绝透露是否因军事工作内部纷争而改变。

Pichai面临的挑战是如何找到一种调和Google的主和派。Google花费了十多年的时间来发展业界最强大的人工智能研究和能力,并热衷于将这些进步与其快速发展的云计算业务联系在一起。竞争对手急于与政府达成交易,而政府每年在云计算上花费数十亿美元。Medin和Alphabet总裁施密特都曾在五角大楼的国防创新委员会工作,这促使Google与政府在反恐,网络安全,电信等领域展开合作。

为了支配云业务,并实现Pichai成为“AI为优先的公司”的梦想,Google可能很难避免战争。

在公司内部,Google云计算公司首席Diane Greene是与政府合作的倡导者。在3月的一次采访中,她捍卫了五角大楼的合作关系,并称将Maven项目描述为一个转折点是错误的。“Google长期与政府合作。”

五角大楼在大约一年前创建了Maven项目来分析监控数据堆。Greene说,她的部门只赢得了合同中的一小部分,而没有提供具体细节。她描述了Google在良性方面的作用:扫描地雷的无人机镜头,然后将其标记给军事人员。Google称,该软件不用于识别目标或做出任何攻击性决定。

许多员工认为她的理性化说法不具说服力。即使AI团队的成员也表示反对,他们担心与五角大楼合作会损害与消费者的关系以及Google招聘的能力。

Google员工在战争中使用人工智能的不适感长期存在。AI总裁Jeff Dean在I / O会议上透露,他在2015年签署了一封公开信,反对在自主武器中使用AI。Dean说,向军方提供具有AI功能的Gmail并不错,但在其他情况下它变得更加复杂。去年,包括负责Alphabet的DeepMind AI实验室的Demis Hassabis和Mustafa Suleyman以及着名的人工智能研究员Geoffrey Hinton在内的几位高管签署了一封致联合国的信函,概述他们的担忧。

信中写道:“致命的自主武器……将使武装冲突能够以比以往任何时候扩大,并且速度比人类更快,毕竟人类无法长时间持续行动。”据熟悉该决定的人士透露,位于伦敦的DeepMind向员工保证不会参与Maven项目。DeepMind女发言人拒绝发表评论。

人工智能的军事系统已经犯过错误。数字权利基金会(Digital Rights Foundation)主任Nighat Dad引用两名半岛电视台记者的案例,他们提起了法律上的投诉,称他们被美国政府的天网监视系统错误地置于无人机“杀人名单”中。Dad在4月份向Pichai发了一封信,要求Google终止Maven项目的合同,但表示她还没有收到回复。

一些AI专家主要关注的是现有技术仍然不可靠,并且可能被黑客入侵,改变战场决策。纽约大学AI研究员Gary Marcus说:“我不会信任用软件来做关键任务的决定。Maven项目属于道德“灰色地带,因为公众并不知道软件将如何使用。如果Google希望从事为军队做分类的事情,那么公众有权关心Google会成为什么样的公司,”Google的云部门没有通过分类项目的认证。Google发言人拒绝透露该公司是否会获得该认证。

多年来,Google通常会退出其收购的公司的政府合同。2011年,面部识别初创公司匹兹堡模式识别系统收入679,910美元。第二年,Google从美国政府的收入就低于此数。(这些数字不包括军方对Google广告的支出,这些数字是机密的,可能每年大概有数百万美元。)机器人制造商波士顿动力公司在2013年末被Google收购之前,已经产生了超过1.5亿美元的联邦合同,明年合同结束。Google 同意在2017年出售 Boston Dynamics。

自从2015年被聘到运营云部门以来,Google对政府工作的关注就减轻了不少。去年,联邦机构花费超过60亿美元购买未分类的云合同。其中约三分之一来自国防部。目前Amazon Microsoft和Oracle是大玩家。自2014年以来,仅亚马逊的云业务就与中央情报局合作,处理了6亿美元的分类工作。

Greene决心竞争这样的合同。“研究者将与政府合作,因为政府需要大量的数字技术,”她在3月份的采访中说。4月2日,Maven项目收到了额外的政府拨款。军方官员已经把这个计划作为减少耗时任务和提高战争效率的关键手段。

国防部长詹姆斯马蒂斯8月份访问Google,并会见了Pichai,Greene和联合创始人谢尔盖布林。他们讨论了公司的云计算和人工智能方面的进展以及其他机遇,例如寻找新的方式来共享军方拥有的电信频谱,这是另一个Google项目(Schmidt在12月辞去Alphabet的主席职务,他被排除在Google与五角大楼工作的决策之外。7月份国防创新委员会的会议记录在网上公开)。

但公司内部的鸿沟依然存在。反对项目Maven请愿书是该公司历史上最大的一个,它以鼓励内部辩论而闻名。Gizmodo首先报道了Google员工对该公司参与的担忧。Pichai已经与员工解决了这个问题,但尚未回应他们取消合同的要求。

Google首席执行官在I / O会议上没有提到军事交易。几位高管私下说,他们信任Pichaik能做出适当的决定。这笔交易也没有出现在人工智能大会上。

本文分享自微信公众号 - ATYUN订阅号(atyun_com),作者:chux

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-05-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【算法】我们对Google的排名算法到底了解多少?

    Google是搜索引擎领域的主导力量,在搜索引擎优化(SEO)中,致力于最大限度地提高知名度。 ? 像我这样的人已经建立了自己的职业生涯,想方设法从Google...

    AiTechYun
  • 【行业】注意!腾讯在Google的AI平台TensorFlow中发现了主要的漏洞

    Google被认为是推动全球AI革命的领导者,但它给开发人员提供的工具可能并不像许多人想象的那么安全。中国社交游戏巨头腾讯的一个安全团队最近声称,它在Googl...

    AiTechYun
  • 谷歌推出开源的ActiveQA,一个学习如何问好问题的AI

    AI系统自然不善于提问,人们必须教导它们。这是Google关注的核心领域,它利用自然语言处理和其他会话AI技术,使与Google智能助理的互动尽可能自然。

    AiTechYun
  • Google AI 研发医疗新模型,预测死亡率比医院高出10%

    用户1737318
  • 【重磅揭秘】Google帝国原力觉醒:2016将征战哪些新疆域?

    又到了半年一度的时候了:我们对 Google 的发展轨迹进行了追踪。对于正在不断扩张疆域的Google帝国,我们概括了所有(我们知道的)处于进展中的项目,推出半...

    新智元
  • 听说,Google又入华了?

    9 月 4 日晚,“首都在线云计算”公众号发布一篇题为《Google 云正式进驻中国,创建美好云世界》的文章,称 Google 云正式确定通过首都在线将其云业务...

    AI科技大本营
  • 从Pixel 3a到Android Q,一份谷歌AI能力的“成绩单” | Google I/O全程回顾

    当地时间 5 月 7 日上午(北京时间 5 月 8 日凌晨一点),一年一度的 Google I/O 开发者大会如期而至。今年也是 Google 旗帜鲜明推行 “...

    AI科技大本营
  • 一篇文章带你看遍Google I/O 2019大会

    为期三天的Google I/O 2019大会终于在上周落下了帷幕,每年的Google I/O大会都可以说是一场全球的开发者盛宴。不过可惜的是,由于和美国存在时差...

    用户1158055
  • 响铃:Don't be evil?Google别闹了

    刚刚被欧盟贴了巨额罚单的Google又开心起来。美国时间7月23日,谷歌母公司Alphabet公布了2018年二季度财报,总营收326.57亿美元,同比增长26...

    曾响铃
  • 重返中国遥遥无期,Google 中国要“文化先行”

    今年8月 1 日将北京总部从五道口的科建大厦搬到融科资讯中心后,Google中国又短暂地出现在了中国人的视野里,此时距离Google 进入中国已经过去了 10 ...

    BestSDK

扫码关注云+社区

领取腾讯云代金券