【争议】外媒质疑中国人脸识别定罪犯,三项研究看人脸识别技术漏洞

【新智元导读】英国《金融时报》昨天发表题为《中国利用人工智能预测犯罪》的报道,对中国使用人脸识别预测罪犯提出质疑,认为这样有可能造成误判。人脸识别在中国的火热应用吸引了外媒注意,《华尔街日报》也报道利用人脸识别抓闯红灯、在公厕安装人脸识别闸机等指出数据收集的问题。但技术的问题也能用技术来解决,CMU 的一项研究为应对人脸识别的滥用进行了探讨。

英国《金融时报》昨天发表了一篇题为《中国利用人工智能预测犯罪》的报道,再次聚焦中国的“人脸识别定罪犯”问题。

报道指出,“中国是一个监控国家,当局可以不受限制地对公民过往的言行进行审查。如今,中国正试图利用旨在预测和防止犯罪的技术来窥视他们的未来”。

报道引用了中国科技部副部长李萌的发言,“……李萌上周五表示,如果能好好利用智能系统和智能设备,就能提前获知哪些人可能是恐怖分子,哪些人可能做坏事”。

报道还指出,中国企业正在协助警方开发人工智能,并称这将有助于警方在犯罪行为实施之前识别和逮捕嫌疑人。

报道以云从科技为例子,表示云从正在使用技术监控高风险场所(比如售卖刀具和榔头的商店),根据买家的可疑行为(比如在买了一把菜刀后又购入麻袋和榔头)预测犯罪。

《金融时报》报道:中国政府一直在收集个人数据监视和控制本国公民,快速发展的人工智能正在增强政府的监视能力。来源:金融时报

中国人脸识别应用超乎西方社会想象

实际上,这并不是第一次主流外媒对中国的人脸识别技术的应用现状产生关注。就在上月底,美国《华尔街日报》发表长篇特写 “China's All-Seeing Surveillance State Is Reading Its Citizens' Faces”——中国“天网”正在监控公民的脸,对广泛渗透如今中国人民日常生活的人脸扫描及识别做了介绍,包括手机应用上的身份验证、办公楼的刷脸门禁,以及公路旁乱穿马路的摄像头。

这篇文章在《华尔街日报》中文版以《在中国,你还敢闯红灯吗?》为题发表,因为报道中有深圳“人脸识别智能抓拍行人闯红灯”的内容。

深圳人脸识别智能抓交通违规的例子:如果有行人闯红灯,会被监控摄像头自动抓拍并实时显示在电子屏上。图片来源:The Wall Street Journal

《华尔街日报》的那篇文章表示,“中国政府部门正在展开一场规模宏大的社会工程试验”,希望通过广泛应用人脸识别技术,影响人们的行为方式,并且识别违法犯罪分子。

不仅如此,文章表示中国政府希望到 2020 年建立起一个全国性社会信用体系,“根据公民在工作单位、公共场所和个人财务方面的表现进行打分”。

根据《华尔街日报》的报道,人脸识别系统已经在中国社会得到了超乎西方人最疯狂想象的应用:

  • 上海,为了让人比赛时不抄近路而在跑道旁安装人脸识别系统
  • 北京,为了防止有人偷厕纸而在公厕安装人脸闸机
  • 浙江温州,在各个主要教堂、清真寺和寺庙全面安装监控摄像头,“其中一些摄像头瞄准了教堂内的长凳”
  • 四川成都,一个安全设备大会上,警员指挥人脸识别无人机队进行人群监控(产品来自深圳云天励飞技术有限公司,过马路闯红灯的人脸识别系统也来自这家公司)
  • 商汤科技展示通过摄像头网络跟踪某人在某区域附近的行踪
  • ……

视频监控摄像头在深圳等中国城市随处可见。图片来源:The Wall Street Journal

Facebook 人脸识别功能因数据违规被叫停

《金融时报》文章明确表示:人脸识别“提出了有关可能存在误判的问题,尤其在一个法律专家表示司法系统缺乏必要制衡的国家”。

报道表示,中国法律可以指控嫌疑人企图犯罪,而且没有证据的误判很难在上诉时扭转。

FT 中文网最近组织了人工智能专题,机器学习涉及的数据中很多都属于个人信息,根据个人信息保护相关法律规定,收集这些信息需要取得用户明确、充分且完备的授权,并应当明确告知用户收集信息的目的、方式手段、内容、留存时限,还有使用的范围。

专题里提到了 Facebook 的例子——2011 年,Facebook 人脸识别和标记功能因为没有按照伊利诺伊州《生物信息隐私法案》(BIPA)执行而被起诉,随后又因采集面部特征前没有明确提醒并征得用户同意而遭到爱尔兰和德国有关部门的调查。最后,Facebook 被迫在欧洲相关地区停用人脸识别功能,并删除了针对欧洲用户的人脸数据库。

中国火热的人脸识别市场

计算机视觉和人脸识别目前是人工智能最为火热的领域。麦肯锡的报告显示,2017 年,在机器学习的子领域中,计算机视觉获得了最多的投资。

麦肯锡的报告显示,2017 年世界范围内,在机器学习的子领域中,计算机视觉获得了最多的投资。

以中国的企业海康威视为例,计算机视觉+安防的发展方向帮助这家企业获得了飞速的发展。自 2001 年公司成立至今,海康威视已连续 16 年保持业绩稳健增长,成为浙股和中小板的市值王,总市值在整个 A 股市场排在第 16 位,超越了很多巨头企业。

2001 年公司成立的时候,海康威视只有以研发工程师为主体的 28 人的创业团队。而到目前,它的员工数已超过 2 万人,其中研发人员就有近 1 万。今年 6 月,市场调研机构 IHS 发布报告,海康威视占全球视频监控市场份额的 21.4%,连续六年位列全球第一。在行业杂志 A&S《安全自动化》发布的排名中,海康威视已跃居全球安防 50 强第一位。

2015 ~ 2017 年间,中国涌现了大批的以计算机视觉和人脸识别为核心业务的初创企业,除了上文提到的云从、商汤、云天励飞,还有旷视科技。根据《华尔街日报》报道,去年秋天杭州 G20 峰会期间,旷视等几家公司与警方合作,识别犯罪嫌疑人以及恐怖分子嫌疑人。“一个多月里有超过60人因此被拘留。”

人脸识别到底还要哪些风险,我们来看看国外的一些最前沿的研究:

CMU 研究——犯罪配件:对最先进人脸识别技术真实而鬼祟的攻击

在机器学习算法显著提升人脸识别准确率,从而真正实现了“天网”恢恢疏而不漏的大背景下,一系列出于各种动机的反识别研究也浮出了水面。

CMU 的研究人员研制出了一种眼镜,可以让佩戴者不被人脸识别系统认出来,甚至还能让系统误以为是另外一个人。

在题为《犯罪配件:对最先进人脸识别技术真实而鬼祟的攻击》(Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition )的研究报告中,研究者把他们的系统描述为对人脸生物特征分析系统“ physically realisable ”且“不起眼”的攻击。

模仿和攻击的成功例子。图 b—图 d 中,上图中的研究者戴上镜框,模仿了下图中的人。

这种攻击利用了人类和计算机在识别人脸时的不同。通过选择性地改变一张图像中的某些像素,它能够让一张人脸图像在人类眼中保证最大程度地不变,同时又能尽量使人脸识别系统感到困惑。

研究人员发现最佳办法是戴一副大眼镜(但又不是太大),甚至在一张真实照片中,这样做也能“改变像素”。通过选择一副带有夸张镜框的“怪咖”眼镜,研究者能够改变任何人脸照片像素的 6.5 %。根据这些镜框就能找到操控图像识别效果的模式。

Invisibility attack 的例子。左:Kiefer Sutherland 的原图;中:Invisibility by perturbing pixels that overlay the face;右:Invisibility with the use ofaccessories。

而因为计算机和我们识别人脸的方式不同,这些加在人脸上的模式对于我们来说,只不过是戴了一副玳瑁框的眼镜。这么做的成本也很低:使用一个普通的照片打印机,研究者根据镜框将模式打印出来,每个只需要 0.22 美元。

最后的结果让人印象深刻。这种眼镜既能骗过商业人脸识别软件,比如 Face++,也能骗过进行特定训练用以识别 5 位研究者和 5 位名人的模型。仅仅戴着这样的眼镜,研究者就完全能让软件识别不出他的脸,同时还能模仿某几位名人,比如 Milla Jovovich 和 Carson Daly。

研究本身没有设定限制。研究者警告说:“研究中我们调查的图像条件的变量比实际情况可能要狭窄。”

比如,为了控制光线,研究者是在没有窗户的房间内拍照的。但他们指出,人脸识别软件的许多应用,包括进入大楼的生物特征扫描,都有相似的限制变量。

当然,在其他情况下,这种控制是不存在的。研究者说:“attacker 不太可能控制光线,也不可能控制他/她和街道上安防摄像头的距离。”

论文摘要:

机器学习赋能了一系列创新,包括用于癌症诊断、自动驾驶汽车等新算法也持续出现。面对机器学习的广泛应用,理解机器学习算法在哪些攻击面前会展现脆弱性至关重要。

本文我们聚焦于广泛应用于安防和入口控制的人脸生物特征系统。我们定义并调研了一种新的攻击:这种攻击physicallyrealizable 且不起眼,可以让攻击者不被识别,还可以模仿为另一个人。我们开发了一种系统性的方法,可以自动生成这样的攻击,其实现方法是在人脸上印出一副镜框。攻击者戴上这种镜框的照片,能够让最先进的人脸识别系统也无法识别,或误认为是另一个人。我们的研究聚焦于白箱式的人脸识别系统,但我们也展示了相似的技术在黑箱场景中也同样可以避开人脸检测。

通过脸部一些简单而新潮的线条,就能骗过聪明的摄像头

俄罗斯“谷歌”Yandex 的技术销售总监 Grigory Bakunov 正在进行一项最新研究。他每天在工作之余开发了一种算法,能够使人脸识别软件无法成功的识别出一个人。通过特殊的化妆,他可以帮助人们在人工智能面前隐藏身份。

Grigory Bakunov 表示:“我正在快速开发一种简单有效的算法。通过脸部一些简单而新潮的线条,就能骗过聪明的摄像头。”

然而这个项目很短命,因为 Bakunov 意识到它同样能骗过银行和警方。

“所以我们决定不把它推向市场。它被坏人利用的可能性太大了。”Bakunov 说。

实际上,Bakunov 和 CMU 的研究都并非是首次将反安防技术研究和时尚结合在一起的。早在 2010 年,集艺术家和技术人士于一身的 Adam Harvey 就推出了他的 CV Dazzle 项目。

这个项目鼓励使用更大胆的化妆和发型来对抗人脸识别技术。

Adam Harvey 表示:“CV Dazzle 使用了前卫派的发型和妆容设计,来分割面部的持续性。因为面部识别算法依靠人脸关键特征及其空间关系,我们可以创造一张“anti-face”来阻挡检测。”

参考资料

  1. http://www.ftchinese.com/story/001073526?full=y&ccode=2G172001
  2. http://www.ftchinese.com/story/001072216?full=y

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2017-07-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习算法与Python学习

谷歌云告别三女侠时代!继李飞飞李佳之后,Diane Greene 宣布离职

继李飞飞、李佳之后,谷歌云又一位女性高管即将离职。现任CEO Diane Greene将由甲骨文前高管Thomas Kurian取代。

813
来自专栏机器之心

观点 | 千名学者抵制Nature机器学习子刊:付费期刊为何不是AI研究的未来

1624
来自专栏CreateAMind

首台深度学习超级计算机交付 人工智能大战正酣

1132
来自专栏AI科技大本营的专栏

AI一分钟 | 特斯拉再融46亿;腾讯AI Lab宣布开源多标签图像数据集

近日,《证券日报》记者登录上海市工商行政管理局官网发现,特斯拉(上海)有限公司的注册资本已由 1 亿元增至 46.7 亿元,这意味着马斯克凭借特斯拉这匾金字招牌...

1177
来自专栏PPV课数据科学社区

如果你是数盲不要紧,补课大数据管理指南

  身处大数据时代,无论是金融服务、消费品、旅游交通,还是工业产品领域,企业若想在行业内争得一席之地,必须借助数据分析的力量。企业需要更全面的管理者与“宽客”(...

3395
来自专栏Y大宽

2 驾驭课堂的动力与能力-课堂的磁力

现在,大学本科教育中,大班额是一种常态,而如何掌控课堂,做一个合格的大学教师,没有那么容易。

1461
来自专栏数据猿

美国AI分析初创公司Outlier获620万美元融资

Outlier是美国一家利用AI提供分析服务的初创公司。北京时间25日,公司宣布已获得620万美元融资,用于进一步在业务数据中提取有用信息。

863
来自专栏SIGAI学习与实践平台

AI时代大点兵-国内外知名AI公司2018年最新盘点

在人工智能领域大规模并行计算是一个刚性的需求,CPU由于本身设计更偏重于多任务处理、逻辑控制所以不太适合在矩阵计算这种需要高并行的场景中应用,这也给了像Nvid...

1941
来自专栏新智元

孙剑:计算机视觉存六大困难,很多问题很难用函数逼近解决

作者:张乾 【新智元导读】昨天,“2018北京人工智能产业高峰论坛”举办,北京前沿国际人工智能研究院也在会上宣告成立。在论坛上,来自中科院、商汤、旷视、腾讯AI...

44218
来自专栏AI科技大本营的专栏

一周AI看点 | AK-47制造商将推人工智能枪支—自主决定射击,英特尔推出新Movidius视觉运算芯片主打AI功能

本期一周AI看点包括行业新闻、技术应用、技术前沿、大咖观点以及投融资等方面。 大咖观点 普京:人工智能将带来全球性垄断 引发无人机战争 据外媒报道,尽管微软和谷...

3566

扫码关注云+社区

领取腾讯云代金券