亚马逊AI又遭抗议：一个好端端的美国官员，怎么就成罪犯了？

李根 发自 凹非寺 量子位 报道 | 公众号 QbitAI

哈哈哈。

如果你近期稍微关注到亚马逊在美遭遇的抗议和diss，想必对ACLU这个组织不会陌生。

ACLU，全称The American Civil Liberties Union，中译为美国公民自由联盟，是一个美国民间组织。

之前我们报道过，亚马逊因为积极向美国执法部门兜售人脸识别技术Rekognition，因而遭遇ACLU集中关注，并号召亚马逊股东、用户给贝佐斯写信，停止售卖这样的AI技术给执法部门。

但贝佐斯压根没有搭理，虽然在个别城市合作中有点小问题，也没有影响亚马逊继续推进这项业务的决心。

不过，ACLU倒是彻底跟亚马逊杠上了，而且还换了斗争路线，从抗议亚马逊AI输出，到给亚马逊AI找问题。

如愿的是，竟然还真给找到了。

近期，ACLU拿美国国会议员的照片测试，发现亚马逊AI竟将其中的28名，确定为曾经被捕的人。

这下确实很尴尬，一个好端端的美国政府官员，都这样被识别成了罪犯，那广大公民又怎么放心呢？

跟之前被diss不同，这次亚马逊自己也急了。

官员识别成罪犯

在ACLU的测试中，他们花了12.33美元，用来体验亚马逊主力推荐的刷脸AI Rekognition，并拿533名国会议员的照片作为样本。

但就在输入这些照片后，竟有28名国会议员被匹配成了被捕人员的照片——显然是个明显的错误。

△ 一名黑人议员被识别为罪犯

于是场面变得非常尴尬。

之前ACLU反对亚马逊售卖这个刷脸AI，其中有一个小原因就是担心技术不够好，将普通公民特别是有色人种公民误识别。

△ ACLU报告显示有色人种误识别率很高

现在好了，亚马逊AI在默认设置下，果然出现了误识别，而且误识别比率达5.2%，已经是一个很高的数字了。

这个实验报告一公布，立马让更多美国吃瓜群众炸了锅。

于是不同于之前抗议时的沉默，亚马逊这次出来回应了。

亚马逊回应：错误设置误导

亚马逊给出的回应声明说，ACLU的测试有严重的失误，就是拿测试物体的匹配度阈值来测试人，自然准确度就会大打折扣。

亚马逊说，他们的AI Rekognition在实际应用中，对人对物的匹配准确率设置是可以调节的。

识别物体，烧饼、椅子等等，需要的匹配准确率要求没有那么高，一般阈值是80%。

但识别人，要求就会比较高，一般都会被设置成95%甚至以上。

也就是说，不是我们亚马逊AI不给力，而是测试的ACLU没正确使用。

亚马逊也趁机对外PR了一把，表示在已经使用亚马逊Rekognition的图像和视频分析技术的案例中，在打击人口贩卖、抑制儿童剥削、追踪失踪儿童等方面发挥了积极的社会作用。

并且通过带来如此更高效的身份验证，增强社会的安全性，可以更轻松查找图像或防止被盗等等，这都能让公共部门和执法部门效率更高。

最后，亚马逊还强调，这个刷脸AI也不是完全替代人类执法者，而是作为辅助，帮助他们缩小调查范围，可以更有效做出决策判断，完全是人机协作的，会双把关。

言下之意，就差明说ACLU的这个测试“别有用心”了。

ACLU再反驳

当然，ACLU怎么会认怂，立马给出了律师回应。

ACLU表示，亚马逊在对政府售卖这个AI时，推荐的默认值就是80%匹配阈值的，而且亚马逊自己官方网站也鼓励客户使用这个默认值。

所以不是ACLU测试流程不行，而是亚马逊AI有技术缺陷。

ACLU还表示，问了很多被亚马逊推销刷脸AI的客户，均表示亚马逊没说过不同对象识别要用不同的匹配度阈值。

更让ACLU反对的是，亚马逊只说了刷脸AI有益的那一面，但对正在引发的公民权利侵害却避而不谈。

ACLU指出，由于亚马逊向政府部门售卖刷脸AI，警方已经将此用于确定参加抗议活动的对象，ICE则用来监视移民，一些城市执法者甚至用来经常跟踪未获告知的居民。

所以亚马逊AI之害，已经在产生重大的公民权利问题了。

于是ACLU再次呼吁，应该制止并暂停亚马逊AI被用于执法部门。

亚马逊靠AI涨业绩

那经历这次diss之后，亚马逊会停止向美国政府部门推销刷脸AI吗？

显然不会。

我们之前也介绍过，这个被反对的刷脸AI——Rekognition，是基于AWS的图像识别和分析的平台，提供的功能包括物体和场景检测、面部分析、面部比较和面部识别。

也就是说，这个AI对外输出，主要是通过亚马逊云服务业务AWS。

除了直接卖给美国政府部门，亚马逊还通过AWS卖给大数据公司Palantir之类的。

之前特朗普对非法移民的“零容忍”政策实施以后，ICE计划里使用的人脸识别系统，正是来自采用了AWS的Palantir方案，也就是间接使用了亚马逊AI。

那为啥说亚马逊不会妥协呢？

太赚钱了。

就在昨天（7月27日），亚马逊发布了2018财年第二季度财报。

报告显示，亚马逊第二季度净利润为25.34亿美元，较上年同期的1.97亿美元增长1186%；净销售额为528.86亿美元，较上年同期的379.55亿美元增长39%。

远超预期，盘后股价一通小涨。

所以换你当亚马逊CEO，你会自断其臂吗？

作者系网易新闻·网易号“各有态度”签约作者

— 完 —