Bengio等400名学者上书抵制谷歌与军方合作，数名员工因此离职

安妮 编译整理 量子位 出品 | 公众号 QbitAI

今早，谷歌内部上演了一场年度抗争大戏。

400多名AI、伦理学和计算机科学学者联名，向Alphabet CEO佩奇、谷歌CEO劈柴、谷歌云CEO Diane Greene和AI/ML首席科学家李飞飞4位高层上书。

这是为何？

公开信中，大家明确要求谷歌结束与五角大楼合作的军用无人机项目Maven，呼吁禁止自主武器系统的国际条约。

此外，还有十几名员工因为Maven项目不满，继而愤愤离职。

谷歌内部员工情绪空前高涨，反对谷歌参与军事项目的呼声到达新顶峰。

“400+3100”

从谷歌与美国国防部签订Maven项目开始，员工的不满其实已经发酵了三个月。

这份合作条约中表示，谷歌将负责加快军方人工智能技术发展的速度，将AI、机器学习等方法用到国防领域。

Maven首个研究方向，就是用机器自动处理MQ-9和MQ-19无人机上传感器收集的动态视频数据，通过TensorFlow的API帮助军方自动识别图像物体，知情人士透露谷歌还在帮助国防部配置软件。

从谷歌员工的角度看，这次合作好像完全变了味。

与国防部合作，开发“帮美国政府进行军事监控、甚至还有可能夺取生命的技术”，完全违背公司的核心价值，还可能威胁到Google的名誉，人才和客户都会因此疏远。

事后，虽然谷歌也解释自己扮演的角色是“非攻击性的”，五角大楼也声明不会用谷歌的技术开发无人自动化武器系统，但是……这个声明一点都没用。

3100名员工联名上书，秉着“不认可、不理解、不接受”的态度要求谷歌立刻退出Maven项目，并起草政策声明谷歌及其承包商都永远不会开发战争技术。

然而一个多月过去了，这份上书好像并没有起到什么作用。

学者的公开信

不满还在持续膨胀，截止到今天下午5点，已经有400多名学者再次上书要求停止项目，其中还包括深度学习大牛Yoshua Bengio。

△ 部分上书学者名单

公开信的开头这样写着——

作为学者、教授和开发信息技术的研究人员，我们和3100多名谷歌员工及其他反对Google参与Maven项目的技术人员联名上书。 我们全力支持谷歌终止与国防部的合同，并且谷歌及母公司Alphabet承诺不开发军事技术，也不将收集的个人数据用于军事目的。 我们还敦促谷歌和Alphabet的高管联合其他人工智能和机器人技术研究人员和技术高管，签署一项禁止自主武器系统的国际条约。

△ Yoshua Bengio

公开信中表示，谷歌的产品收集了大量用户行为、活动和兴趣数据，有责任用数据扩大业务、造福社会。

而Maven目的是利用机器学习来分析大量的无人机监控录像，据《Defense One》报道，美国已经在“中东”进行了初步试验，计划在明年扩展成“一个可以俯瞰整个城镇的复杂高科技系列相机”。这种行为，恐怕已经牵涉到针对性的杀人行为。

谷歌的技术将成为自动目标识别和自动武器系统的基础。目前，国防部已经计划在无人机上安装图像分析技术，离授权无人机杀人只有一步之遥。而之前剑桥分析公司的丑闻表明，公众越来越担心科技行业将拥有如此大的权力，与国防部合作恐怕对自己不利。

上书已送达，至于谷歌官方如何回应，还得听下回分解~

作者系网易新闻·网易号“各有态度”签约作者