专栏首页新智元【争议】外媒质疑中国人脸识别定罪犯,三项研究看人脸识别技术漏洞

【争议】外媒质疑中国人脸识别定罪犯,三项研究看人脸识别技术漏洞

【新智元导读】英国《金融时报》昨天发表题为《中国利用人工智能预测犯罪》的报道,对中国使用人脸识别预测罪犯提出质疑,认为这样有可能造成误判。人脸识别在中国的火热应用吸引了外媒注意,《华尔街日报》也报道利用人脸识别抓闯红灯、在公厕安装人脸识别闸机等指出数据收集的问题。但技术的问题也能用技术来解决,CMU 的一项研究为应对人脸识别的滥用进行了探讨。

英国《金融时报》昨天发表了一篇题为《中国利用人工智能预测犯罪》的报道,再次聚焦中国的“人脸识别定罪犯”问题。

报道指出,“中国是一个监控国家,当局可以不受限制地对公民过往的言行进行审查。如今,中国正试图利用旨在预测和防止犯罪的技术来窥视他们的未来”。

报道引用了中国科技部副部长李萌的发言,“……李萌上周五表示,如果能好好利用智能系统和智能设备,就能提前获知哪些人可能是恐怖分子,哪些人可能做坏事”。

报道还指出,中国企业正在协助警方开发人工智能,并称这将有助于警方在犯罪行为实施之前识别和逮捕嫌疑人。

报道以云从科技为例子,表示云从正在使用技术监控高风险场所(比如售卖刀具和榔头的商店),根据买家的可疑行为(比如在买了一把菜刀后又购入麻袋和榔头)预测犯罪。

《金融时报》报道:中国政府一直在收集个人数据监视和控制本国公民,快速发展的人工智能正在增强政府的监视能力。来源:金融时报

中国人脸识别应用超乎西方社会想象

实际上,这并不是第一次主流外媒对中国的人脸识别技术的应用现状产生关注。就在上月底,美国《华尔街日报》发表长篇特写 “China's All-Seeing Surveillance State Is Reading Its Citizens' Faces”——中国“天网”正在监控公民的脸,对广泛渗透如今中国人民日常生活的人脸扫描及识别做了介绍,包括手机应用上的身份验证、办公楼的刷脸门禁,以及公路旁乱穿马路的摄像头。

这篇文章在《华尔街日报》中文版以《在中国,你还敢闯红灯吗?》为题发表,因为报道中有深圳“人脸识别智能抓拍行人闯红灯”的内容。

深圳人脸识别智能抓交通违规的例子:如果有行人闯红灯,会被监控摄像头自动抓拍并实时显示在电子屏上。图片来源:The Wall Street Journal

《华尔街日报》的那篇文章表示,“中国政府部门正在展开一场规模宏大的社会工程试验”,希望通过广泛应用人脸识别技术,影响人们的行为方式,并且识别违法犯罪分子。

不仅如此,文章表示中国政府希望到 2020 年建立起一个全国性社会信用体系,“根据公民在工作单位、公共场所和个人财务方面的表现进行打分”。

根据《华尔街日报》的报道,人脸识别系统已经在中国社会得到了超乎西方人最疯狂想象的应用:

  • 上海,为了让人比赛时不抄近路而在跑道旁安装人脸识别系统
  • 北京,为了防止有人偷厕纸而在公厕安装人脸闸机
  • 浙江温州,在各个主要教堂、清真寺和寺庙全面安装监控摄像头,“其中一些摄像头瞄准了教堂内的长凳”
  • 四川成都,一个安全设备大会上,警员指挥人脸识别无人机队进行人群监控(产品来自深圳云天励飞技术有限公司,过马路闯红灯的人脸识别系统也来自这家公司)
  • 商汤科技展示通过摄像头网络跟踪某人在某区域附近的行踪
  • ……

视频监控摄像头在深圳等中国城市随处可见。图片来源:The Wall Street Journal

Facebook 人脸识别功能因数据违规被叫停

《金融时报》文章明确表示:人脸识别“提出了有关可能存在误判的问题,尤其在一个法律专家表示司法系统缺乏必要制衡的国家”。

报道表示,中国法律可以指控嫌疑人企图犯罪,而且没有证据的误判很难在上诉时扭转。

FT 中文网最近组织了人工智能专题,机器学习涉及的数据中很多都属于个人信息,根据个人信息保护相关法律规定,收集这些信息需要取得用户明确、充分且完备的授权,并应当明确告知用户收集信息的目的、方式手段、内容、留存时限,还有使用的范围。

专题里提到了 Facebook 的例子——2011 年,Facebook 人脸识别和标记功能因为没有按照伊利诺伊州《生物信息隐私法案》(BIPA)执行而被起诉,随后又因采集面部特征前没有明确提醒并征得用户同意而遭到爱尔兰和德国有关部门的调查。最后,Facebook 被迫在欧洲相关地区停用人脸识别功能,并删除了针对欧洲用户的人脸数据库。

中国火热的人脸识别市场

计算机视觉和人脸识别目前是人工智能最为火热的领域。麦肯锡的报告显示,2017 年,在机器学习的子领域中,计算机视觉获得了最多的投资。

麦肯锡的报告显示,2017 年世界范围内,在机器学习的子领域中,计算机视觉获得了最多的投资。

以中国的企业海康威视为例,计算机视觉+安防的发展方向帮助这家企业获得了飞速的发展。自 2001 年公司成立至今,海康威视已连续 16 年保持业绩稳健增长,成为浙股和中小板的市值王,总市值在整个 A 股市场排在第 16 位,超越了很多巨头企业。

2001 年公司成立的时候,海康威视只有以研发工程师为主体的 28 人的创业团队。而到目前,它的员工数已超过 2 万人,其中研发人员就有近 1 万。今年 6 月,市场调研机构 IHS 发布报告,海康威视占全球视频监控市场份额的 21.4%,连续六年位列全球第一。在行业杂志 A&S《安全自动化》发布的排名中,海康威视已跃居全球安防 50 强第一位。

2015 ~ 2017 年间,中国涌现了大批的以计算机视觉和人脸识别为核心业务的初创企业,除了上文提到的云从、商汤、云天励飞,还有旷视科技。根据《华尔街日报》报道,去年秋天杭州 G20 峰会期间,旷视等几家公司与警方合作,识别犯罪嫌疑人以及恐怖分子嫌疑人。“一个多月里有超过60人因此被拘留。”

人脸识别到底还要哪些风险,我们来看看国外的一些最前沿的研究:

CMU 研究——犯罪配件:对最先进人脸识别技术真实而鬼祟的攻击

在机器学习算法显著提升人脸识别准确率,从而真正实现了“天网”恢恢疏而不漏的大背景下,一系列出于各种动机的反识别研究也浮出了水面。

CMU 的研究人员研制出了一种眼镜,可以让佩戴者不被人脸识别系统认出来,甚至还能让系统误以为是另外一个人。

在题为《犯罪配件:对最先进人脸识别技术真实而鬼祟的攻击》(Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition )的研究报告中,研究者把他们的系统描述为对人脸生物特征分析系统“ physically realisable ”且“不起眼”的攻击。

模仿和攻击的成功例子。图 b—图 d 中,上图中的研究者戴上镜框,模仿了下图中的人。

这种攻击利用了人类和计算机在识别人脸时的不同。通过选择性地改变一张图像中的某些像素,它能够让一张人脸图像在人类眼中保证最大程度地不变,同时又能尽量使人脸识别系统感到困惑。

研究人员发现最佳办法是戴一副大眼镜(但又不是太大),甚至在一张真实照片中,这样做也能“改变像素”。通过选择一副带有夸张镜框的“怪咖”眼镜,研究者能够改变任何人脸照片像素的 6.5 %。根据这些镜框就能找到操控图像识别效果的模式。

Invisibility attack 的例子。左:Kiefer Sutherland 的原图;中:Invisibility by perturbing pixels that overlay the face;右:Invisibility with the use ofaccessories。

而因为计算机和我们识别人脸的方式不同,这些加在人脸上的模式对于我们来说,只不过是戴了一副玳瑁框的眼镜。这么做的成本也很低:使用一个普通的照片打印机,研究者根据镜框将模式打印出来,每个只需要 0.22 美元。

最后的结果让人印象深刻。这种眼镜既能骗过商业人脸识别软件,比如 Face++,也能骗过进行特定训练用以识别 5 位研究者和 5 位名人的模型。仅仅戴着这样的眼镜,研究者就完全能让软件识别不出他的脸,同时还能模仿某几位名人,比如 Milla Jovovich 和 Carson Daly。

研究本身没有设定限制。研究者警告说:“研究中我们调查的图像条件的变量比实际情况可能要狭窄。”

比如,为了控制光线,研究者是在没有窗户的房间内拍照的。但他们指出,人脸识别软件的许多应用,包括进入大楼的生物特征扫描,都有相似的限制变量。

当然,在其他情况下,这种控制是不存在的。研究者说:“attacker 不太可能控制光线,也不可能控制他/她和街道上安防摄像头的距离。”

论文摘要:

机器学习赋能了一系列创新,包括用于癌症诊断、自动驾驶汽车等新算法也持续出现。面对机器学习的广泛应用,理解机器学习算法在哪些攻击面前会展现脆弱性至关重要。

本文我们聚焦于广泛应用于安防和入口控制的人脸生物特征系统。我们定义并调研了一种新的攻击:这种攻击physicallyrealizable 且不起眼,可以让攻击者不被识别,还可以模仿为另一个人。我们开发了一种系统性的方法,可以自动生成这样的攻击,其实现方法是在人脸上印出一副镜框。攻击者戴上这种镜框的照片,能够让最先进的人脸识别系统也无法识别,或误认为是另一个人。我们的研究聚焦于白箱式的人脸识别系统,但我们也展示了相似的技术在黑箱场景中也同样可以避开人脸检测。

通过脸部一些简单而新潮的线条,就能骗过聪明的摄像头

俄罗斯“谷歌”Yandex 的技术销售总监 Grigory Bakunov 正在进行一项最新研究。他每天在工作之余开发了一种算法,能够使人脸识别软件无法成功的识别出一个人。通过特殊的化妆,他可以帮助人们在人工智能面前隐藏身份。

Grigory Bakunov 表示:“我正在快速开发一种简单有效的算法。通过脸部一些简单而新潮的线条,就能骗过聪明的摄像头。”

然而这个项目很短命,因为 Bakunov 意识到它同样能骗过银行和警方。

“所以我们决定不把它推向市场。它被坏人利用的可能性太大了。”Bakunov 说。

实际上,Bakunov 和 CMU 的研究都并非是首次将反安防技术研究和时尚结合在一起的。早在 2010 年,集艺术家和技术人士于一身的 Adam Harvey 就推出了他的 CV Dazzle 项目。

这个项目鼓励使用更大胆的化妆和发型来对抗人脸识别技术。

Adam Harvey 表示:“CV Dazzle 使用了前卫派的发型和妆容设计,来分割面部的持续性。因为面部识别算法依靠人脸关键特征及其空间关系,我们可以创造一张“anti-face”来阻挡检测。”

参考资料

  1. http://www.ftchinese.com/story/001073526?full=y&ccode=2G172001
  2. http://www.ftchinese.com/story/001072216?full=y

本文分享自微信公众号 - 新智元(AI_era)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-07-25

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 人脸识别进入“超级独角兽时代”:旷视、商汤、依图等共论计算机视觉

    【新智元导读】旷视科技最新宣布4.6亿美元C轮融资,创下AI融资记录。当下,人脸识别技术做到了什么程度?未来计算机视觉创业还有没有机会?在上周日第二届微软亚洲研...

    新智元
  • 【315 AI技术追踪】人脸识别一夜躺枪?支付宝、商汤、云从等回应

    【新智元导读】 2017年的“315”落下帷幕,人脸识别技术公司纷纷躺枪。16日一大早,大家纷纷发表声明,表示自家的人脸识别技术还是相当安全的。本文整理了各家的...

    新智元
  • 人脸识别升级版进美国高校遭抵制!CMU “教室监视”系统连老师也不放过

    继中国高校试水人脸识别进教室后,美国高校也“享受”到了类似的待遇,甚至还加入了姿势、动作识别。

    新智元
  • 人脸识别技术的真相

    程序你好
  • 原创 | 从席卷全球的“刷脸”乱象,看国内人脸识别立法方向

    近两年来,人脸识别技术引发的数据隐私问题一直备受公众讨伐。仅就2019年而言,全球范围内人脸识别技术使用相关的案件便层出不穷:瑞典数据保护机构(DPA)因当地一...

    数据派THU
  • 哈佛MIT坐镇的波士顿,正式宣布政府禁用人脸识别

    最重要的原因——说出来像是Black Lives Matter的影响——种族问题。

    量子位
  • 干货分享|【优图大讲堂】第一讲:人脸识别技术的发展史

    “人脸识别”是近几年来在互联网逐步火热的一个词。人脸识别技术的火热发展似乎预示着一个新的互联网时代的到来。随着人脸识别技术的不断成熟,人脸识别技术的创新与突破必...

    优图实验室
  • 人脸识别2C潜力极大,但仍需突破

    镁客网
  • 人脸识别技术国家标准工作组正式成立

    11月27日消息,全国信标委生物特征识别分技术委员会换届大会在北京举办。本次大会发布了两大事项,一是推出《生物特征识别白皮书(2019版)》,二是成立人脸识别技...

    AiTechYun
  • AI赋能,人脸识别技术应用的发展

    随着人工智能行业的发展,越来越多的技术趋于成熟可用,AI +模式赋能成为各行各业的升级方向,其中以人脸识别技术的应用最为普遍。例如前段时间的大兴机场,再比如明年...

    AiTechYun

扫码关注云+社区

领取腾讯云代金券