专栏首页量子位3100名谷歌员工联名上书,抵制与五角大楼合作:不想做战争生意

3100名谷歌员工联名上书,抵制与五角大楼合作:不想做战争生意

李杉 李林 发自 凹非寺 量子位 出品 | 公众号 QbitAI

“Google不应该成为一家战争公司。”

一封联名信在Google内部流传着,已经有3100多人在上面签了名,其中包括数十名高级工程师,抗议该公司为五角大楼提供人工智能力量。

他们想要通过这封联名信,向Google CEO劈柴哥(Sundar Pichai)施加压力,让Google退出五角大楼的代号为Maven的项目,并宣布一项“永不开发战争技术”的政策。

这家硅谷巨头和美国政府之间的文化冲突就这样凸显了出来。

一封公开信

这封联名信几周前就开始在Google内部传递,签名的员工们认为,参与军事任务会疏远客户和人才。

《纽约时报》将联名信的内容发布了出来,信中清晰的写明了这些Google员工的诉求:

1. 退出Maven项目;

2. 起草、公布并执行一项清晰的政策,声明Google及其承包商都永远不会开发战争技术。

在联名员工的心目中,与国防部合作,开发“帮美国政府进行军事监控、甚至还有潜可能夺取生命的技术”,完全违背了这家公司的核心价值,还会威胁到Google的名誉。

他们担心,一向以“不作恶”为信条的Google参与到五角大楼的项目中,会“对Google及其人才竞争力构成不可挽回的破坏”。

同时,这也会影响Google的公众形象。“由于人们越来越担心存在偏见的人工智能以及武器化人工智能,Google已经很难赢得公众信任。”这些员工担心Google会被人看成是跟雷神、General Dynamics和Palantir一样的大型军工企业。

“微软和亚马逊等其他公司也参与其中,不会降低Google的风险。Google有着独特的历史,还有着‘不作恶’的信条,而且它直接渗透到数十亿人的生活之中。”

信中说:“我们不能把我们所开发技术的道德责任外包给第三方。”

联名信完整PDF版在这里: https://static01.nyt.com/files/2018/technology/googleletter.pdf

Google员工最近在一次内部会议上,就已经公开对这家公司与Maven项目的关系提出了异议。当时,Google云基础设施业务负责人戴安·格林尼(Diane Greene)为该交易辩护,希望能够缓解员工的担忧。

该公司发言人表示,公开信中的多数签名都是在公司对此作出解释前收集的。

对自己开发的程序负责,不仅Google员工这么想,在程序员中这其实是一种比较主流的思潮。

Stack Overflow的一份调查显示,有47.8%的程序员认为,自己的孩子自己管,如果一个AI出了问题,应该是开发者负责,也有27.9%的人认为责任在于政府或者监管机构。

Project Maven

这个让Google员工如此担心的Maven项目,究竟要干什么?

美国国防部的Maven项目2017年4月开始试点,目的是加快军方的人工智能技术发展速度。这个项目第一年计划花费7000万美元,将人工智能、机器学习方法用到国防领域。

Maven的第一个努力方向,是要用机器来自动处理MQ-9和MQ-19无人机上传感器收集的海量动态视频数据。

Google参与到这个项目中,向国防部提供了一些TensorFlow API,用来帮军方自动识别图像中的物体,于是引发了不少员工的担心,说这种技术有可能用于提升无人机袭击的瞄准能力。

作为一个最收欢迎、谁都能用的开源机器学习框架,美国国防部用上TensorFlow似乎也合情合理,也实在用不着谁来“提供”。

不过,据知情人士透露,除了贡献了开源软件之外,Google还在“积极帮助国防部配置软件”。

苍白的辩护

Google周二发表了一份声明,说“机器学习在军事领域的任何使用都会引发担忧”。他们还补充道,“我们与整个公司展开了积极互动,就这一重要话题进行了全面沟通。”

之前,这家公司也一再为自己辩护,说他们在Maven项目中从事的工作是“非攻击性的”。五角大楼也说,不会用Google的技术来开发无需人类操作员的自动化武器系统。

美国中央司令部联合空战中心

五角大楼所用的Google技术,和其他客户也并没有什么两样,正是“向所有Google云计算客户开放的开源物体识别软件”,使用的数据也都是未归类的。“这项技术用于标记图片,以便人工审核,而且目的是拯救生命,让人们不必从事冗长乏味的工作。”

但是他们拒绝列出相关的合同条款。美国国防部表示,由于Google是Project Maven主承包商ECS Feddral的分包商,所以他们无法提供具体合同金额或合同条款。ECS Federal并未对此置评。

五角大楼的视频分析经常用于镇压叛乱和反恐行动,而美国国防部也曾经明确表示,该项目将用于支持这些行动。

但是,不见得是以攻击为目的。提升无人机视频分析能力,也能在袭击行动中自动分辨出人类目标,从而更好地识别平民,降低无辜平民的受害概率。

不过国防部官员们的态度,却让Google员工们的道德担忧雪上加霜。

美国国防部长吉姆·马蒂斯(Jim Mattis)经常表示 ,他们的核心目标就是提高美国的军事“杀伤力”。

首席管理官约翰·吉布森(John Gibson)上个月在谈到Joint Enterprise Defense Infrastructure Cloud采购项目的时候说,他们的部分目的,就是为了“提升杀伤力和敏捷度”,因此很难将软件、云计算和相关服务与真正的战争企业区分开来。

施密特与美国前国防部长Ash Carter

Google的部分高管与五角大楼关系密切。该公司前执行董事长埃里克·施密特(Eric Schmidt)就曾经担任五角大楼顾问,Google副总裁汨罗·梅丁(Milo Medin)同样担任这一职位。

去年11月接受采访时,施密特承认“科技界普遍担心军工机构会利用这项技术滥杀无辜。”他表示,之所以担任顾问,一定程度上是为了“至少能展开沟通”。他还表示,军方使用这项技术的目的是“保护国家安全。”

由于Google员工总数超过7万,所以抗议者只占少数,可能不会对其发展构成太大障碍。但在人工智能研究领域,Google却要与其他科技公司争夺人才,所以如果一些人才不认同它的做法,就会对其人才吸引力构成伤害。

硅谷与五角大楼

正当Google因为国防合同而遭到内部反对时,其竞争对手却主动宣传自己参与的国防项目。

亚马逊就公开宣传该公司与国防部签订的图像识别协议,微软也表示,该公司的云计算技术帮助军事和国防机构处理信息分类工作。

而整个硅谷,其实都有着和五角大楼纠缠不清的历史。我们熟悉的互联网、人工智能、无人车,最初都有一个机构在背后推动:美国国防部高级研究计划局,DARPA。

One More Thing

量子位一直在想,不知道签署联名信的3100人中,有没有身在加拿大的Geoffrey Hinton。

20世纪80年代,博士刚刚毕业的Hinton在卡耐基梅隆大学(CMU)找了份工作。

可是他很快意识到,他所在院系、甚至全美国的大部分AI研究都是由国防部(DoD)资助的。于是,他决定辞职以表抗议,并随后搬到了加拿大。

“离开的时候,我复印了一枚硬币,然后把它贴在办公室的门上,”他说,“但是我把硬币上的‘G’改成了‘D’,于是上面那就话就变成了:IN DOD WE TRUST。”

本文分享自微信公众号 - 量子位(QbitAI),作者:关注前沿科技

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-04-05

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 一文看尽Google新品发布会:手机、音箱、笔记本,硬件全面AI化

    李根 若朴 发自 十一假期 量子位 报道 | 公众号 QbitAI AI+软件+硬件,让Google助手无处不在。 这是Google刚刚结束的产品发布会的核心...

    量子位
  • Google被骂成筛子

    这家陷入四面楚歌境地的科技巨头,周五在内部会议上作出决定:不再与美国国防部续约Project Maven项目,双方的合作2019年到期后结束。根据这项秘密协议,...

    量子位
  • 人民日报发推欢迎Google重返大陆,FB上长文阐述详细立场

    最近各种猜测和报道不断涌出的背景下,人民日报昨日在社交平台Twitter上发出一个明确的信号:

    量子位
  • Google AI 研发医疗新模型,预测死亡率比医院高出10%

    用户1737318
  • 【重磅揭秘】Google帝国原力觉醒:2016将征战哪些新疆域?

    又到了半年一度的时候了:我们对 Google 的发展轨迹进行了追踪。对于正在不断扩张疆域的Google帝国,我们概括了所有(我们知道的)处于进展中的项目,推出半...

    新智元
  • 听说,Google又入华了?

    9 月 4 日晚,“首都在线云计算”公众号发布一篇题为《Google 云正式进驻中国,创建美好云世界》的文章,称 Google 云正式确定通过首都在线将其云业务...

    AI科技大本营
  • 从Pixel 3a到Android Q,一份谷歌AI能力的“成绩单” | Google I/O全程回顾

    当地时间 5 月 7 日上午(北京时间 5 月 8 日凌晨一点),一年一度的 Google I/O 开发者大会如期而至。今年也是 Google 旗帜鲜明推行 “...

    AI科技大本营
  • 一篇文章带你看遍Google I/O 2019大会

    为期三天的Google I/O 2019大会终于在上周落下了帷幕,每年的Google I/O大会都可以说是一场全球的开发者盛宴。不过可惜的是,由于和美国存在时差...

    用户1158055
  • 响铃:Don't be evil?Google别闹了

    刚刚被欧盟贴了巨额罚单的Google又开心起来。美国时间7月23日,谷歌母公司Alphabet公布了2018年二季度财报,总营收326.57亿美元,同比增长26...

    曾响铃
  • 重返中国遥遥无期,Google 中国要“文化先行”

    今年8月 1 日将北京总部从五道口的科建大厦搬到融科资讯中心后,Google中国又短暂地出现在了中国人的视野里,此时距离Google 进入中国已经过去了 10 ...

    BestSDK

扫码关注云+社区

领取腾讯云代金券