【亚马逊人脸识别噩梦】贝索斯将AI武器化遭大规模抗议


新智元报道

新智元编辑部

【新智元导读】亚马逊积极向美国警方推销自己的人脸识别产品, 引发了美国社会大规模抗议。亚马逊员工也给CEO贝佐斯写公开信:请停止武器化我们的技术!

《黑镜》中政府使用交通摄像头就能识别你的面部特征并且跟踪你这个人的情形可能不太远了。

亚马逊有一款名为Amazon Rekognition的产品,这将你最糟糕的噩梦。

这款产品可以实时识别,跟踪和分析人员,并在单幅图像中识别多达100个人。它还可以快速扫描收集的信息,与数据库数千万张面孔进行比对。

亚马逊正在为政府和警察部门推销Rekognition——根据亚马逊的市场推广资料,Rekognition可以监控“团体照片、拥挤人群以及机场等公共场所中的所有面孔”。除了其他功能之外,材料中还将“人员跟踪”描述为一种调查和监控人“简单而准确”的方式。

消息公布后引发了美国民众极其强烈的反响。美国公民自由联盟(ACLU)最近领导30多个民权组织联合举行抗议活动,反对美国政府使用人脸识别技术,要求亚马逊CEO贝索斯停止向政府出售Rekognition。

他们的主张是:“公民应该可以自由地走在街上而不被政府监视。”而人脸识别技术威胁到了这一点。

虽然亚马逊并不是唯一与警方合作的技术公司,但亚马逊的规模、影响力和能力让人觉得Amazon Rekognition将有很大可能被广泛采用。

ACLU在声明中表示,“通过Rekognition,政府现在可以构建一个自动识别和跟踪任何人的系统。如果警察配备的随身摄像头配备了人脸识别装置,那么原本用于执法透明和问责制的装置将转变为针对公众的监视器

通过这项技术,警察将能够确定谁参加了抗议活动。 ICE(美国移民海关执法Immigration and Customs Enforcement)可以在移民开始新生活后持续监控这些移民。无论是否有理由怀疑犯罪活动,政府都可以定期追踪自己的居民。”

即使在拥挤的场所,亚马逊Rekognition也能检索和识别出多达100张脸孔

内部员工的公开信:请停止武器化我们的技术!

在美国,目前无证移民的数量和由于种族貌相而遭到非法监禁的受害人越来越多,包括《纽约时报》、《大西洋月刊》在内的众多媒体都发文质问:是否该采用这项技术?更进一步来说,这项技术真的必要吗?

今年6月,在一片抗议声中,奥兰多警察局放弃了对亚马逊Rekognition人脸识别试点项目的计划。

人脸识别公司Kairos的首席执行官Brian Brakeen更是公开表示,他的公司不会将这项技术出售给政府。

Brakeen写道:“在政府监督计划和执法机构的手中,根本无法确保人脸识别软件不会用于伤害公民。”

抗议并非全都来自外部。亚马逊内部员工也站起来表示抗议,他们加入股东,民权团体和有关消费者的行列,将亚马逊的面部监控技术称为:对公民权利,特别是对移民和人民的独特威胁

这种强烈的反对在内部逐渐蔓延开来。

今年6月,亚马逊内部的100多名员工,包括高级工程师,给自己的老板、亚马逊CEO杰夫·贝索斯(Jeff Bezos)写了一封公开信,要求公司停止向ICE和其他执法机构出售侵入性和违宪的Rekognition面部识别技术。

他们在信中说道:“我们公司不应该从事监控业务; 我们不应该从事警务业务; 我们不应该支持那些监督和压迫边缘人群的人。”

亚马逊CEO杰夫·贝索斯

加利福尼亚州ACLU技术和公民自由主任尼科尔·奥泽尔说:“我们支持这些员工呼吁贝索斯先生做正确的事,亚马逊必须停止向政府提供危险的面部监视。”

除了要求停止出售Rekognition之外,亚马逊员工在信中还呼吁公司停止对数据分析公司Palantir提供支持。

Palantir是Peter Thiel于2003年创立的大数据公司,为执法部门提供预测性警务工具,并通过亚马逊网络服务公司与ICE签订了大量合同(Thiel曾秘密资助了一起导致Gizmodo的前母公司Gizker Media破产的诉讼)。

亚马逊态度并未妥协

尽管面对内部与外部的双重抗议,但是亚马逊回应态度依然是捍卫Rekognition的。他们声明:不能因为技术可能会被滥用就限制其进步。

声明中说:“如果我们取缔新技术,我们的生活质量会更糟,因为有些人会选择滥用这项技术。”

“想象一下,如果客户无法购买计算机,因为有可能将该计算机用于非法目的吗?亚马逊要求客户遵守法律并在使用AWS服务时负责。当我们发现AWS服务正在使用时被客户滥用,我们暂停该客户使用我们服务的权利。”

此前,谷歌员工已经成功的阻止了自己的公司参与到一项军事竞标中。该竞标是美国五角大楼利用人工智能技术通过无人机进行攻击,并且另外一个项目也被迫暂停。

对比而言,亚马逊的态度,不妥协,挺强硬。

此外,根据今天的最新消息,奥兰多警察局计划重新启动人脸识别软件测试。

奥兰多警察局局长John Mina在一份声明中表示:“我们在测试这项技术方面取得了很大进展,并认为继续对其进行评估是非常重要的,这个评估将确定人脸识别是否能够在公民隐私和增强城市公共安全使命间权衡,从而增加不可估量的价值。”

从商业方面考虑,亚马逊的技术与市场策略也无可厚非,但是,我们仍然希望企业将安全与隐私作为自己商业布局的前提,并为此做出一些改变。

参考文章:

https://gizmodo.com/amazon-workers-demand-jeff-bezos-cancel-face-recognitio-1827037509

https://gizmodo.com/amazon-workers-demand-jeff-bezos-cancel-face-recognitio-1827037509

本文分享自微信公众号 - 新智元(AI_era)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-07-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏安恒信息

安全VS隐私:顺风出行要录音录像,你怎么看 ?

近日,在“空姐遇害案”之后,关于顺风车是否安全的问题讨论越来越热烈。网约车平台监管漏洞问题,引起了全社会关注。

11140
来自专栏量子位

阿里AI解锁车场景:达摩院技术输出,天猫精灵进驻奔驰、奥迪和沃尔沃

首批合作伙伴也来头不小:奔驰、奥迪和沃尔沃。今年6月开始,奔驰、沃尔沃相关的车中,就会集成阿里AI推出“家车-空间融合”的解决方案。

14340
来自专栏量子位

首都机场启用人脸识别安检,通过效率提升66%

上个月底,首都机场T2航站楼,启用了一条全新的智能安检系统,这个系统由自动传输、信息、人脸识别、自助验证等模块组成。

15710
来自专栏深度学习自然语言处理

谈谈复杂多分类问题上的一些个人理解

最近遇到了复杂多分类问题,因为无论在自己平时生活还是导师或老板分配的任务里都很常见,所以打算写写,记录下点点滴滴。

11830
来自专栏AI科技大本营的专栏

坏了,人脸识别能检测出同性恋?

也许你已经听过了这一消息。去年,斯坦福大学的 助理教授 Michael Kosinki 和同事 Yilun Wang 在一篇论文中展示了人脸识别算法如何从图像...

19120
来自专栏量子位

亚马逊遭遇15万人联名抗议:AI刷脸可以,但卖给政府不OK

谷歌5.5亿美元战略投资京东的消息,你可能已经听闻,有分析说就是针对亚马逊开的枪。

12430
来自专栏贾志刚-OpenCV学堂

OpenCV人脸检测与三角剖分绘制

三角剖分最早是俄国数学家Delaunay提出来的,而他获得博士学位时候的老师是Georgy Voronoy,是维诺图概念的提出者,而且维诺是马尔可夫的学生,就是...

39420
来自专栏量子位

问题来了:哪个AI公司会签下张学友当代言人?

就在6月9日,又有两名逃犯在张学友金华演唱会被抓获,如果不看日期,还以为只是旧新闻。

12410
来自专栏量子位

“AI交警”正式上岗:专治行人闯红灯,深圳首日抓拍125宗

据深圳新闻网消息,在该AI交警上岗首日,共抓拍特殊行业人员闯红灯58宗、非机动车进入机动车道行驶67宗。

15630
来自专栏贾志刚-OpenCV学堂

OpenCV基于Landmark实现人脸交换

川剧是中国最知名的戏曲剧种之一,变脸是川剧表演的特技之一,在对象传承上有着严格的师门派别。有点扯远啦,回来!其实主要是我们今天要用OpenCV干的事情跟这个有点...

35840

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励