专栏首页AI科技评论业界 | 联名上书、集体离职,谷歌会停止与美国国防部合作吗?

业界 | 联名上书、集体离职,谷歌会停止与美国国防部合作吗?

人工功能作为一项技术在道德和伦理方面所面临的困境,恐怕已经不仅仅是 Google 一家所面临的问题。

如今,对于 Alphabet/Google 管理层来说,如今不得不考虑的一个严重问题是:该如何处理已经与美国国防部在 Project Maven 上达成的合作关系。

Google 食言了?

AI科技评论曾经报道过,Project Maven 是美国军方在 2017 年 4 月主导创建的一个项目,它也被称为算法战跨职能团队(AWCFT)。Maven 的任务指向是 “加速国防部整合大数据和机器学习技术”。而据该中心的助理研究员 Greg Allen 介绍,该项目的首要任务是帮助军方有效地处理空中无人机每天收集的大量视频片段。

按照美国国防部的计划,Project Maven 项目成立六个月就可以运行;为了满足该项目的迫切时间要求,国防部依靠自身显然并不足够。于是,它转而寻求与学界和业界的人工智能专家合作,以弥补军方和硅谷之间的技术差距。根据项目总监 John Shanahan 的说法,Maven 项目将为整个国防部点燃「人工智能的火焰前沿」。

实际上,据外界报道,自 2017 年 12 月以来,该项目已经被部署在与伊斯兰国的对抗中。

外界普遍认为,作为 TensorFlow 的开发者,Google 参与到了这项合作中去,不仅为国防部提供用于机器学习应用的 TensorFlow API 接口,还动用工程师资源为后者提供帮助。而这一合作在今年早些时候曝光之后,已经了大量的争议,许多 Google 员工表达了对此事的抗议。

AI科技评论了解到,2017 年秋天,还在担任 Alphabet 董事长的 Eric Schmidt 在一次谈话中曾谈到科技圈与军方合作关系的担忧。 “技术社区普遍担心军事和工业结合体,会被作为不正当杀人利器,”同样也是国防创新委员会成员的他补充说,“我不会在军队内部提供 Alphabet 的东西。”

不过随着 Eric Schmidt 在 2018 年初卸任 Alphabet 董事长,Google 似乎食言了。不少媒体认为,为了获取国防部在云计算业务上的订单,它参与到国防部的 Project Maven 中去;尽管 Google 已经宣称其与军方的合作与战争用途没有关系,但这一问题还是引起了员工和业界的关注。

随后,这一事件持续发酵。目前关于这一事件的最新动向是:大约有 12 名 Google 员工将要离职,以表达对上述合作的抗议。

Google 员工的联名信和辞职

据外媒 Gizmodo 报道,让这些要离职的 Google 员工感到沮丧的,不仅仅是人工智能在战争无人机使用中的伦理问题,还有 Google 的政治选择以及由此带来对用户信任的影响。他们中的许多人已经在一份内部文档中表达了将要离职的决定,而这份文档也在 Google 内部分享。

不过,究竟这些人的辞职会不会对 Google 管理层造成影响,这是一个值得质疑的问题。

早在 2018 年 4 月初,大约有 3100 多名 Google 员工签名,面向 Google CEO Sundar Pichai 提交了一封信,要求 Sundar 立即取消参与 Project Maven,并要求 Google 起草并公开一份清晰的政策表明:Google 和它的合作方不会开发用于战争的技术。

这些员工在信中表示:

Google 在 Project Maven 中的相关参与计划将不可挽回地毁灭 Google 的品牌和它吸纳人才的能力。在越来越多的对于 AI 可能会偏激化和武器化的恐惧中,Google 在获取公众信任方面已经显得力不从心了……这一协议将会使 Google 的声誉面临威胁,并将会使 Google 站在其核心价值观的对立面。

然而,来自这些员工的痛心疾首的呼吁似乎并没能对 Google 的决定造成什么影响。Gizmodo 报道称,Google 并没有停止其在 Project Maven 中的工作,并且已经被外界认为是美国国防部的起来一个云计算工程——The Joint Enterprise Defense Infrastructure——的竞标者之一。也就是说,Google 之所以坚持参与国防部项目,可能是为了获取在云计算方面的相关利益。

不过,这一事件的复杂之处在于:Google 此前声明称它只是在为 Project Maven 提供一些开源软件。既然是开源软件,那么即使 Google 不参与其中,国防部照样可以自行下载使用,并将其用于军事用途。

另外,在 Google 参与 Project Maven 的消息曝光初期,Google 的一位发言人曾表示公司正在起草一份关于机器学习使用的政策和防护安全措施文件,但是据知情人士了解,这份文件的起草还未实施。

更大的舆论压力

如果说,来自内部员工的联名信和辞职抗议还不足以让 Google 管理层考虑改变决定的话,Google 在本次事态中还面临着更大的外界舆论压力。

AI科技评论了解到,2018 年 4 月 19 日,就在 Google 员工发出联名信半个月之后,来自 Google、Amazon、Microsoft 和 IBM 等科技公司的员工发布了一封联合请愿信,声明称科技公司不应该参与到与战争有关的商业中去,因此 Google 应该中止与美国国防部的合作。

不仅如此,这封信还声称,Google、Amazon、IBM 和 Microsoft 等科技公司试图与美国国防部达成的商业协议将打破用户信任,科技公司拥有大量的全球用户敏感数据,它们不应该参与到某个国家的军事活动中去。从这封信的口风来看,虽然并不完全指向 Google,但是考虑到 Google 在人工智能领域的地位以及它已经引起的争议,毫无疑问它还是首当其冲的。

但这还不够,Google 员工的抗议和上述科技公司员工的情愿又得到了来自人工智能学界、计算机学界和伦理学界专家学者的支持。

5 月 15 日,国际机器人武器控制委员会(ICRAC)向 Alphabet CEO 拉里·佩奇、Google CEO Pichai 、Google Cloud CEO Diane Greene 以及 Google Cloud 首席科学家李飞飞发出了一封公开信,再次要求 Google 停止其与国防部在 Project Maven 上的合作协议,承诺不去开发军事科技,并保证不将其搜集的个人数据用于军事行动。

另外,这封信还呼吁 Google 宣誓不会参与或支持自动武器的开发、制造、贸易和使用,并支持对自动武器的禁止。

到目前为止,已经有 364 名专家学者在公开信上签名,而且签名数量还在不断增加。

在AI科技评论看来,随着内部和外部舆论压力的增加,Google/Alphabet 已经陷入了某种腹背受敌的道德和舆论困境,这可能是一种比失去国防部订单后果更为严重的困境,甚至会引发一场严重的信任危机。可以想见的是,Google 将不得不对这一事态进行回应;但这并不意味着 Google 方面会完全听从舆论的想法,最终停止与美国国防部在 Project Maven 上的合作。

而至于人工功能作为一项技术在道德和伦理方面所面临的困境,恐怕已经不仅仅是 Google 一家所面临的问题,也不仅仅是 IBM、Amazon、Microsoft 等相关厂商的问题,它将无可避免地成为整个人工智能时代的一个长期性话题。

本文分享自微信公众号 - AI科技评论(aitechtalk),作者:归〇

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-05-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 动态 | Google 最终还是低头了

    经历了数个月的舆论发酵之后,Google 最终在其与国防部的合作上做出了妥协。从某种意义上来说,这是 Google 作为人工智能时代的巨头所不得不面临的严苛舆论...

    AI科技评论
  • 动态 | 李飞飞要从 Google 离开 ?官方已经给出回应

    AI科技评论按,作为人工智能学界的一位知名专家,李飞飞在 2016 年 11 月加入到 Google 之后,很快就成为这家搜索巨头在人工智能领域的一个重要标签,...

    AI科技评论
  • 你知道吗,Google已经收购了这么多家人工智能公司!

    在通往人工智能的路上,Google一直在不停地买买买。 谷歌在2011年成立AI部门,目前已经有100 多个团队用上了机器学习技术,包括Google搜索、Goo...

    AI科技评论
  • Google AI 研发医疗新模型,预测死亡率比医院高出10%

    用户1737318
  • 【重磅揭秘】Google帝国原力觉醒:2016将征战哪些新疆域?

    又到了半年一度的时候了:我们对 Google 的发展轨迹进行了追踪。对于正在不断扩张疆域的Google帝国,我们概括了所有(我们知道的)处于进展中的项目,推出半...

    新智元
  • 听说,Google又入华了?

    9 月 4 日晚,“首都在线云计算”公众号发布一篇题为《Google 云正式进驻中国,创建美好云世界》的文章,称 Google 云正式确定通过首都在线将其云业务...

    AI科技大本营
  • 从Pixel 3a到Android Q,一份谷歌AI能力的“成绩单” | Google I/O全程回顾

    当地时间 5 月 7 日上午(北京时间 5 月 8 日凌晨一点),一年一度的 Google I/O 开发者大会如期而至。今年也是 Google 旗帜鲜明推行 “...

    AI科技大本营
  • 一篇文章带你看遍Google I/O 2019大会

    为期三天的Google I/O 2019大会终于在上周落下了帷幕,每年的Google I/O大会都可以说是一场全球的开发者盛宴。不过可惜的是,由于和美国存在时差...

    用户1158055
  • 响铃:Don't be evil?Google别闹了

    刚刚被欧盟贴了巨额罚单的Google又开心起来。美国时间7月23日,谷歌母公司Alphabet公布了2018年二季度财报,总营收326.57亿美元,同比增长26...

    曾响铃
  • 重返中国遥遥无期,Google 中国要“文化先行”

    今年8月 1 日将北京总部从五道口的科建大厦搬到融科资讯中心后,Google中国又短暂地出现在了中国人的视野里,此时距离Google 进入中国已经过去了 10 ...

    BestSDK

扫码关注云+社区

领取腾讯云代金券