亚马逊AI又遭抗议:一个好端端的美国官员,怎么就成罪犯了?

李根 发自 凹非寺 量子位 报道 | 公众号 QbitAI

哈哈哈。

如果你近期稍微关注到亚马逊在美遭遇的抗议和diss,想必对ACLU这个组织不会陌生。

ACLU,全称The American Civil Liberties Union,中译为美国公民自由联盟,是一个美国民间组织。

之前我们报道过,亚马逊因为积极向美国执法部门兜售人脸识别技术Rekognition,因而遭遇ACLU集中关注,并号召亚马逊股东、用户给贝佐斯写信,停止售卖这样的AI技术给执法部门。

但贝佐斯压根没有搭理,虽然在个别城市合作中有点小问题,也没有影响亚马逊继续推进这项业务的决心。

不过,ACLU倒是彻底跟亚马逊杠上了,而且还换了斗争路线,从抗议亚马逊AI输出,到给亚马逊AI找问题。

如愿的是,竟然还真给找到了。

近期,ACLU拿美国国会议员的照片测试,发现亚马逊AI竟将其中的28名,确定为曾经被捕的人。

这下确实很尴尬,一个好端端的美国政府官员,都这样被识别成了罪犯,那广大公民又怎么放心呢?

跟之前被diss不同,这次亚马逊自己也急了。

官员识别成罪犯

在ACLU的测试中,他们花了12.33美元,用来体验亚马逊主力推荐的刷脸AI Rekognition,并拿533名国会议员的照片作为样本。

但就在输入这些照片后,竟有28名国会议员被匹配成了被捕人员的照片——显然是个明显的错误。

一名黑人议员被识别为罪犯

于是场面变得非常尴尬。

之前ACLU反对亚马逊售卖这个刷脸AI,其中有一个小原因就是担心技术不够好,将普通公民特别是有色人种公民误识别。

ACLU报告显示有色人种误识别率很高

现在好了,亚马逊AI在默认设置下,果然出现了误识别,而且误识别比率达5.2%,已经是一个很高的数字了。

这个实验报告一公布,立马让更多美国吃瓜群众炸了锅。

于是不同于之前抗议时的沉默,亚马逊这次出来回应了。

亚马逊回应:错误设置误导

亚马逊给出的回应声明说,ACLU的测试有严重的失误,就是拿测试物体的匹配度阈值来测试人,自然准确度就会大打折扣。

亚马逊说,他们的AI Rekognition在实际应用中,对人对物的匹配准确率设置是可以调节的。

识别物体,烧饼、椅子等等,需要的匹配准确率要求没有那么高,一般阈值是80%。

但识别人,要求就会比较高,一般都会被设置成95%甚至以上。

也就是说,不是我们亚马逊AI不给力,而是测试的ACLU没正确使用。

亚马逊也趁机对外PR了一把,表示在已经使用亚马逊Rekognition的图像和视频分析技术的案例中,在打击人口贩卖、抑制儿童剥削、追踪失踪儿童等方面发挥了积极的社会作用。

并且通过带来如此更高效的身份验证,增强社会的安全性,可以更轻松查找图像或防止被盗等等,这都能让公共部门和执法部门效率更高。

最后,亚马逊还强调,这个刷脸AI也不是完全替代人类执法者,而是作为辅助,帮助他们缩小调查范围,可以更有效做出决策判断,完全是人机协作的,会双把关。

言下之意,就差明说ACLU的这个测试“别有用心”了。

ACLU再反驳

当然,ACLU怎么会认怂,立马给出了律师回应。

ACLU表示,亚马逊在对政府售卖这个AI时,推荐的默认值就是80%匹配阈值的,而且亚马逊自己官方网站也鼓励客户使用这个默认值。

所以不是ACLU测试流程不行,而是亚马逊AI有技术缺陷。

ACLU还表示,问了很多被亚马逊推销刷脸AI的客户,均表示亚马逊没说过不同对象识别要用不同的匹配度阈值。

更让ACLU反对的是,亚马逊只说了刷脸AI有益的那一面,但对正在引发的公民权利侵害却避而不谈。

ACLU指出,由于亚马逊向政府部门售卖刷脸AI,警方已经将此用于确定参加抗议活动的对象,ICE则用来监视移民,一些城市执法者甚至用来经常跟踪未获告知的居民。

所以亚马逊AI之害,已经在产生重大的公民权利问题了。

于是ACLU再次呼吁,应该制止并暂停亚马逊AI被用于执法部门。

亚马逊靠AI涨业绩

那经历这次diss之后,亚马逊会停止向美国政府部门推销刷脸AI吗?

显然不会。

我们之前也介绍过,这个被反对的刷脸AI——Rekognition,是基于AWS的图像识别和分析的平台,提供的功能包括物体和场景检测、面部分析、面部比较和面部识别。

也就是说,这个AI对外输出,主要是通过亚马逊云服务业务AWS。

除了直接卖给美国政府部门,亚马逊还通过AWS卖给大数据公司Palantir之类的。

之前特朗普对非法移民的“零容忍”政策实施以后,ICE计划里使用的人脸识别系统,正是来自采用了AWS的Palantir方案,也就是间接使用了亚马逊AI。

那为啥说亚马逊不会妥协呢?

太赚钱了。

就在昨天(7月27日),亚马逊发布了2018财年第二季度财报。

报告显示,亚马逊第二季度净利润为25.34亿美元,较上年同期的1.97亿美元增长1186%;净销售额为528.86亿美元,较上年同期的379.55亿美元增长39%。

远超预期,盘后股价一通小涨。

所以换你当亚马逊CEO,你会自断其臂吗?

作者系网易新闻·网易号“各有态度”签约作者

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-07-28

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏VRPinea

2.11 VR扫描:帕胖担任Reddit上Oculus板块的管理员;苹果、Valve和LG认购eMagin股票

2847
来自专栏PPV课数据科学社区

我们都是大数据时代的海狸(利用信息“面包屑”分析人类社会)

利用信息“面包屑”分析人类社会 我们都是大数据时代的“海狸” “在大数据时代,合作比竞争重要,交流比交易重要,灵活的同伴关系比冰冷的阶级斗争重要。” ? 197...

37610
来自专栏VRPinea

开拓VR新娱乐市场,7663与《密逃联盟》开展深度合作

2716
来自专栏知晓程序

搞出「人命」了怎么办?不要慌,让这些小程序来拯救你

姚晨在分享为人母的经历时提到,曾经的她,看到「熊孩子」闹腾就恨不得一巴掌抽上去,所以很怕对自己的孩子也是如此。可是有了「小土豆」后,她自然而然地学会了耐心,面对...

1187
来自专栏罗超频道

Super快报第4期:互联网也下雪了

今天的互联网,有点桑感。 1、人大常委会通过加强网络信息保护决定草案 :捅你一刀,然后给你一颗糖 决定草案作出相应规定,网络服务提供者为用户办理固定电话、...

3207
来自专栏安恒信息

RSA 亮点播报|展会正式开放以及AI安全议题

安恒信息 网络安全前沿资讯、 应急响应解决方案、技术热点深度解读 PART1 展厅篇 美国西海岸时间2018年04月17日,是RSA大会开幕的第二天,主会场的...

3426
来自专栏大数据文摘

全球最牛程序员出自哪些学校 中国“神秘”高中排名第二

4037
来自专栏理论坞

新年100天倒计时,听我絮叨一下

其实这样一回顾,真的没做多少很有意义的事情,就连出去玩都算上了,每天的得过且过日复一日,生活便成了《土拨鼠之日》;

843
来自专栏镁客网

从Demo到光子芯片,Magic Leap是希望or“骗局”?

1592
来自专栏数说工作室

谈资 | 十日大数据参考

我们将过去10天里播报的大数据新闻,浓缩成17条精选资讯,您只要在20分钟就可以读完,了解下这个行业的变化吧~ 1. 数说× “各行各业都在装备大数据” 2....

2864

扫码关注云+社区

领取腾讯云代金券