马斯克等2400人以及160多家公司签署承诺，不参与也不支持自主武器开发

编译：chux

出品：ATYUN订阅号

今天在人工智能联合会议期间，生命未来研究所宣布已有超过2400名个人和160家公司和组织签署了承诺，宣布他们“既不参与也不支持开发，制造，贸易或使用致命的自主武器”。代表90个国家的签署国也呼吁各国政府通过法律来反对这类武器。谷歌DeepMind和Xprize基金会是签约的团体之一，而马斯克和DeepMind联合创始人Demis Hassabis，Shane Legg和Mustafa Suleyman也做出了承诺。

这一承诺出台之际，少数几家公司面临着强烈抗议，因为它们向政府机构和执法部门提供这些技术。谷歌因其项目Maven五角大楼的合同而受到抨击，该合同向军方提供人工智能技术，以帮助他们标记无人机图像，而这些图像需要额外的人工审查。同样，亚马逊也因与执法机构分享面部识别技术而面临批评，而微软则因向移民和海关执法部门（ICE）提供服务而被要求提供服务。

该承诺提到，“成千上万的人工智能研究人员一致认为，致命的自主武器可能成为暴力和压迫的有力工具，特别是在与监视和数据系统相关时，那些签署者同意：决不应该将人类生命委托给一台机器。”

“我很高兴看到人工智能领导人从谈话转向行动，实施政治家迄今未能实施的政策，”生命未来研究院院长Max Tegmark在一份声明中说，“人工智能具有帮助世界的巨大潜力，前提是我们防止其滥用。自主武器就像生物武器一样令人作呕和不稳定，应该以同样的方式处理。”

谷歌已经发布了自己的一套原则，其目的是指导公司在人工智能技术方面的道德规范。其政策规定，它不会设计或部署人工智能用于武器，监视或技术，而微软已声明其与ICE的合作仅限于电子邮件，日历，消息和文档管理，并且不包括任何面部识别技术。该公司还在为面部识别工作制定一套指导原则。

2015年，马斯克向未来生命研究所捐赠了1000万美元，用于研究项目，重点是确保人工智能对人类有益。去年，马斯克等人还签署了一份发给联合国的生命未来研究所的信函，该信函旨在监管自主武器系统。