亚马逊表态：坚决为政府和军方客户服务，使用AI技术不设红线

新智元报道

来源：theintercept.com

编辑：大明

【新智元导读】近日，有亚马逊高管表示，公司会“坚定不移”地为美国政府和军方服务，政府执法部门、士兵和公务人员都应该获得AI技术的帮助。亚马逊并未就参与国防事务问题上划定任何“红线”。不久前公司的人脸识别软件将议员误认为罪犯，是因为ACLU的实验设定的精确度阈值存在问题，属于对软件的使用不当。

在向军方和执法部门提供尖端AI技术是否会有违道德这件事上，一些硅谷巨头企业一直态度暧昧，但亚马逊对此似乎态度鲜明，没有保留。

亚马逊的员工一直在抗议公司将面部识别技术卖给执法部门。不过上月底在科罗拉多州举办Aspen安全论坛上，亚马逊AWS全球公共部门副总裁Teresa Carlson对这一问题表明了立场。在被问及亚马逊的员工（亚马逊员工抗议与公司的“管理层”利益之间存在文化上的“鸿沟”时，Carlson对此作出坦率回应，她表示：“我们致力于服务我们的客户，我们会坚定不移地为美国政府和世界各地与我们有合作关系的政府服务。”

Carlson的这番言论在媒体上鲜有报道，最近几个月以来，关于亚马逊在为军方和执法部门提供AI技术中起到的重要作用，已经引发了长时间的公众讨论，并引发了巨大争议。

亚马逊将“坚定不移”地为美国政府和军方服务，未设任何红线

亚马逊众多员工最近向公司的CEO杰夫·贝索斯发出了一封公开信，抗议亚马逊将面部识别软件Rekognition出售给执法部门。信中引用了美国国土安全部“对难民和移民越来越不人道的对待。”美国公民自由联盟（ACLU）对亚马逊出售技术表示担忧，指Rekognition可以让警察不间断地监视和骚扰少数族裔和持不同政见人士。微软和Salesforce同样面临来自员工的内部压力。

对于近期的批评之声，Carlson表示，“员工需要发声渠道。我不能代表任何其他公司发言，但我们希望与我们的政府合作，”她补充说。“我们感到有这个义务。政府也应该拥有相应的能力，在战场上作战的士兵、我们的公务人员，都应该具备相应的能力。”Carlson承认“坏人总是难免的”，但接着就开始夸赞对Rekognition软件的积极应用。

当有记者问到，亚马逊是否“在国防事务上划定了任何红线，制定了任何标准、指导方针，确定要做哪些事、不做哪些事”时，Carlson表示，并没有。

“我们没有划定任何界限，”Carlson回应道。 “我们会坚定不移地支持执法部门、国防部门和情报部门。”她表示，亚马逊经常不了解“自己的软件工具的服务对象的一切”，但同时坚持认为美国政府应该拥有最具“创新性和前沿性的工具”，以使其不受其“敌人”的影响。Carlson提出“符合道德的使用权”作为一种机制，亚马逊可以通过该机制收回被非法使用的技术，不过公司不清楚这会对执法行动造成什么影响，比如美国移民局和海关的执法部门所采取的执法行动。

以网络服务和电子商务业务闻名的亚马逊公司，目前正迅速进入国防和国土安全领域，为五角大楼和全国各地的警察机构提供一系列机器学习工具。亚马逊目前正在为美国情报机构管理一个大型云计算解决方案，并正在竞标一项价值100亿美元的合同，为国防部提供类似的云解决方案。

“议员变罪犯”事件是因为ACLU对脸部识别软件使用不当

上周，ACLU的一项研究发现，亚马逊的面部识别软件错将28名国会议员识别为罪犯，这些议员大多数是有色人种，随后，亚马逊遭遇了又一波批评。

一位不愿透露姓名的亚马逊发言人表示，ACLU的研究结果是“校准不当”所致。该发言人表示，在ACLU的实验设定的精确度阈值下，亚马逊的面部识别技术未能在“合理的确定度”内使用。

据Intercept获得的泄露电子邮件中显示，亚马逊在去年国防部提出的饱受争议的Project Maven中做了“一些工作”。该合同是五角大楼首次积极尝试将硅谷开发的机器学习技术融入军事项目中。该计划利用人工智能技术，对人员、建筑物和事件进行自动编目，以帮助分析人员识别无人机在战场上捕获的图像。

根据Defense One的说法，这一计划将用于支持“捕食者”和“收割者”无人机攻击“中东地区”的目标。批评人士称，在无人机战争中使用先进的人工智能技术只会导致“对攻击方式的改变”，让无人机攻击的目标人群不再基于已知的活动，而是基于远程监控录像的得出的概率。据报道，特朗普总统部署无人机的速度达到了奥巴马时期的四到五倍，而奥巴马将无人机的攻击次数提升至小布什时期的10倍。

最终，谷歌赢得了Project Maven合同，但试图隐瞒公司参与该项目。谷歌的几名员工辞职抗议，数千人联名发表公开信，要求谷歌终止与军方的联系。许多人对此表示震惊，谷歌与军方合作似乎违反了自身“不作恶”的信条，并且声称“与五角大楼的任何合作成果都不会用于致命目的”，这实际上是在误导自家员工。

谷歌于此后表示，Project Maven合同于明年到期后不再续签，并且在努力制定一套使用人工智能技术的道德守则，不过并未表示在未来会拒绝与国防事务有关的合同。

参考链接：

https://theintercept.com/2018/07/30/amazon-facial-recognition-police-military/