亚马逊人脸识别错误地将28名国会议员匹配为罪犯

编译：chux

出品：ATYUN订阅号

美国公民自由联盟表示，在对亚马逊重新认知的测试中，该服务错误地将28名国会议员确定为罪犯。

ACLU为Rekognition提供了来自“公共资源”的25000张照片，并且亚马逊的服务将它们与国会成员的官方照片进行比较。系统错误地将28名国会议员的照片与罪犯面部照片进行了配对。这28人中有11个是有色人种，而他们只占国会现任议员的20%。

三位民主党国会议员在给亚马逊首席执行官杰夫贝佐斯的公开信中回应了这一测试。

“虽然面部识别服务可能提供有价值的执法工具，但该技术的功效和影响尚未完全理解，”信中写道，“特别是人们对面部识别可能对隐私和公民权利构成的危险提出了严重的担忧，特别是当它被用作政府监督的工具，以及技术的准确性及其对色彩社区的不成比例的影响时。”

ACLU的公民自由律师Jacob Snow告诉媒体成员，测试的费用低于13美元。

Snow表示，“在执法环境中提供这些信息很危险的事情之一是，在照明，角度，年龄方面可能存在差异，因此根据照片确定它们是真的很难同一人，面部识别有可能向执法用户建议存在匹配。然后，执法用户很可能或合理的可能性会信任该系统而不会采用相同程度的怀疑态度。“

ACLU的研究结果并不令人惊讶。研究显示，面部识别技术容易受到种族偏见的影响，2011年的一项研究发现，在中国，日本和韩国开发的系统在区分白人面孔方面比在东亚人面前更加困难。在2012年进行的另一项研究中，来自供应商Cognitec的面部识别算法对非洲裔美国人的表现比白种人高5％至10％。

但亚马逊的一位发言人表示，ACLU的测试很可能因校准不佳而受到影响。它使用了一个置信度阈值，即给定预测正确的可能性为80％，低于亚马逊为执法应用推荐的95％。

但是，亚马逊的客户无法保证遵循其指导原则。从历史上看，执法部门使用的面部识别算法的准确性还有很多不足之处。最近众议院监督委员会关于面部识别技术的听证会表明，用于识别匹配的算法在15％的时间内是错误的。与此同时，伦敦大都会警察局使用的系统每次打击都会产生多达49个虚假匹配。

5月，ACLU透露，亚马逊与佛罗里达州奥兰多市和俄勒冈州华盛顿县警长办公室合作部署Rekognition，据报道，安装费用约为400美元，每月只需12美元。

奥兰多正在利用面部识别技术，针对来自该市监控系统的镜头中的疑似犯罪分子。华盛顿县建立了一个智能手机，允许代表通过300,000个面孔的数据库扫描面部照片。

今年6月，在Bezos的一封致信中，19组亚马逊股东对Rekognition向执法部门的销售表示保留，加入ACLU和其他近70个团体抗议。

股东表示，“虽然重新认知可能旨在加强一些执法活动，但我们深感关切的是，它最终可能会侵犯公民权利和人权，我们担心这项技术将被用于不公平和不成比例地瞄准和监视有色人种，移民和民间社会组织，我们担心销售可能扩大到外国政府，包括专制政权。