人脸识别技术一夜躺枪后 百度、旷视、商汤、云从等是这样“技术”回应的

昨晚的央视315晚会上,人脸识别技术被曝存在安全隐患。不少观众看到主持人在现场技术人员支持下,仅凭两部手机、一张随机正面照片及一个换脸App,分别就一张”眨眨眼”的照片和一段”活体检测”场景模拟,成功“攻破”人脸识别系统。

一般业内人士看到的是主持人手里所持人脸识别App的技术漏洞;但对于普通观众来说,他们看到的是一个不甚熟悉的高科技技术应用背后的“巨大风险”——人脸识别技术怎么会被破解?为什么一个换脸App软件就能轻松换脸?它会不会分分钟“掏空”我的账户……经由央视这个大众平台一放大,即使只是出于提醒消费者的出发点,以百度,旷视,商汤,云从为代表的这些被影响的技术提供商,从昨晚开始,就开始纷纷对此做出回应。

它们的回应手段

百度-模拟晚会场景,从活体检测角度回应

节目结束仅仅5分钟,百度深度学习实验室主任林元庆便被邀请在百度科技园的人脸识别闸机做一次亲身验证,看百度人脸识别系统究竟能否被一段视频“骗过”。以下是视频回放:

从视频中,我们可以看到,检测结果是:林元庆首先对手机录制了一段包括眨眼、转头等动作的真人视频,然后手持手机,将该视频在人脸识别闸机的摄像头前播放,以模拟晚会的场景后,百度人脸闸机显示“禁止通过”。

旷视-从攻击原理与防攻击要点角度回应

旷视相关人员一早就在跟AI科技评论讨论这个事,后面他们也以视频的形式,来“介绍”了央视现场的攻击原理与防攻击要点:

  1. 从攻击内容上,主持人将自己的脸换成现场一名观众微博照片里的脸,这是一个基于软件合成的换脸攻击,又可叫虚拟人脸攻击,这种攻击不可避免的会留下图像修改痕迹。Face++ 通过机器学习算法提取被修改后图像特有局部与全局视觉特征,并对潜在的攻击模式进行在线归档与分类,从而实现对这类攻击的防御。

2. 从攻击介质上, 主持人将自己的手机对准大屏这是一个屏幕翻拍攻击。而屏幕翻拍在底层视觉特征、环境图像特征等方面均与真人实拍有显著差异。对此,旷视专门研发了基于屏幕翻拍综合检查的防范技术,实现对此类攻击的隔离。

紧接着旷视的防攻击小组也第一时间复现了场景,让两位工作人员通过换脸工具进行攻击:

云从-从多重验证的角度进行回应

相对于百度和Face++的视频回击,云从科技用的简单的文字形式,在他们的微信上他们重点阐述到:

做过安全的人都知道,绝对的安全等于无限的成本。AES加密也能被很快破解,但商用256位足够了,花费破解的成本比破解后的利益还大。 首先,人脸识别在金融身份核验的用途上,通常是作为交叉验证增强安全性,只会比以往单用密码更安全,并且还存在其他验证手段与人脸识别形成多重验证。其次,从face2face的技术原理来讲,需要收集很多的被模仿人的人脸数据,再加上比较先进的人脸识别技术支撑,才可以模仿该人脸。 从防范攻击上来讲,被模拟的视频需要通过非常高的技术手段才能够传输到应用软件里面去,有这种技术力量,任何系统都存在风险;而直接通过视频或者图片攻击,完全可以被现在的红外或者一些动作判断的活体手段所识别出来。

商汤-从“犯罪”线索角度进行回应

商汤科技没有拍视频,也没有撰写新的声明,不过他们扒出来之前一篇技术背后秘密的核心阐述,重点从“犯罪”线索角度进行了回击。

跟您聊聊技术后面的秘密:传统的人脸防伪方法一般通过用户的动作,例如:眨眼、张嘴、点头、摇头、微笑、眼动等,作为防伪线索,即我们常说的活体检测。这种方法会有一个漏洞,就是难以防住真人视频或者合成的视频(例如3D模型或者换脸算法)。 而当(比)前(如)优(商)秀(汤)的人脸防伪(活体检测)会采用全新的方法,它与传统方法的最大不同点就在于更加关注伪造内容本身的介质属性,以及合成的视频/图像与自然视频/图像的差异。 由于真人视频或者合成的视频,必然需要通过屏幕进行显示,然后使用采集端进行翻拍。虽然视频本身可能做到看起来非常真实,但是翻拍的过程中,必然会暴露出“犯罪”线索,例如:显示器边缘,屏幕反光,摩尔纹,像素点纹理,镜头畸变等。有些线索可能会很细微,以至人眼常常难以察觉,而计算机可以察觉在hack过程中这些的细微的线索。

事实的真相

整个315晚会人脸识别隐患事件,经过一天的发酵后,业内人士其实都开始冷静和客观下来了。比如,

山世光博士在今天表示:

这肯定会是一场旷日持久的攻防博弈游戏。

第四范式的戴文渊则表示:

在这个场景里,人脸识别本质上是一种反欺诈技术,无论做多少改进,欺诈团伙一定不会束手就擒,会开发更多欺诈手段。欺诈与反欺诈永远都是博弈的过程,反欺诈技术也不应该局限于人脸识别。更完美的解决方案是闭环的强化学习反欺诈方案。

云从的周曦在之前AI科技评论所做的公开课里,被问到”云从最近在双创周展示了“1秒刷脸支付”,但近日也爆出最新木马Acecard 可以刷用户照片盗取权限进行恶意操作,怎么从技术上防止这类问题?“这种人脸识别在实际应用场景的问题中。则用实际行业经验表示:

银行对于安全的要求是非常极致的。我们的方法是对人脸采集系统采集的人脸,均用云从研究的图片加密方式对人脸图片进行了隐式的水印加密处理。云从的人脸识别系统后端进行识别时,会判断人脸图片是否为云从采集并且加密的人脸图片。且这种加密方式需要的加密模板和加密参数很复杂,一般无法破解。

包括这次315晚会背后的换脸App提供者,360人工智能研究院,其院长颜水成也在事后的采访中建议:

相关技术厂商不仅要关注人脸比对的准确率,还应关注活体检测及人脸识别系统的使用场景,提高研发能力,在涉及隐私、支付等场景使用时,应当将人脸与声纹、指纹、虹膜及其他生物认证信号相融合,多个方面同时发力,从而提高安全门槛,保障用户安全。

从技术的角度上,人脸识别同以往任何一个服务于安全领域的技术一样,有其门槛和局限性;但从实际应用的角度上,各个厂商在和客户深入合作的过程中,一般会比观众更早遇到晚会里大家担心的问题。就算他们自己不自觉,他们的客户也会提醒他们潜藏在暗处的欺诈团队们的各种手段和隐忧,务必要求技术提供方在保证一定用户体验的同时,尽量将人脸与声纹、指纹、虹膜及其他生物认证信号相融合来提高安全门槛。

人脸识别的安全技术攻坚战绝不会停止

套用云从科技比较老练的说法:

“做过安全的人都知道,绝对的安全等于无限的成本。AES加密也能被很快破解,但商用的256位足够了,花费破解的成本比破解后的利益还大。……我们要正面看待此次315事件,舆论上的热点让主要面向B端的人脸识别厂家有机会做一次科普:攻击和被攻击本来就是一个矛和盾的过程,一直在相互博弈,使技术往更好的方向去发展。”

人脸识别技术的安全跟安全行业以往任何一个领域的性质一样,这是一场持久的攻坚战。就像大家非常熟悉的银行卡安全问题,5年前我们都用着招商银行普通的磁条卡,今天基本上都被换成了芯片卡,最近又开始加入人脸识别等新兴技术。如果单说安全加密手段,银行方面的升级就从来没有停止过,因为其本身从来都没有”绝对安全”这一说法。

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-03-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

李开复2018年达沃斯见闻(Ⅱ):听AI大佬吐槽,真实的AI居然是这样的

1月23-26日,第48届世界经济论坛年会在瑞士达沃斯召开,主题为“在分化的世界中打造共同命运”。 会议召集了来自全球政商、国际机构、公民社会、学术、媒体、艺术...

3117
来自专栏用户3246163的专栏

[和坚FRM1学习笔记_2.0]1.1 风控原则

风险管理的目标是减少和消除EL,但是更concern UL,A对 承担风险的数量和潜在损失的大小不是绝对相关的,B错 风险管理的最后一步是监控,C错 风险...

593
来自专栏大数据文摘

【海外深度思考】大数据用于教育带来的负面冲击

2378
来自专栏BestSDK

机器学习用于安全领域的5大案例

AI和机器学习将极大改变安全运作方式,虽然目前正处在驱动网络防御的早期阶段,但已经在终端、网络、欺诈或SIEM中,起到了识别恶意活动模式的明显作用。未来,在防御...

3446
来自专栏机器之心

业界 | 腾讯优图为「刷脸」之旅打造新任守护者——「极光守卫」

3278
来自专栏新智元

【315 AI技术追踪】人脸识别一夜躺枪?支付宝、商汤、云从等回应

【新智元导读】 2017年的“315”落下帷幕,人脸识别技术公司纷纷躺枪。16日一大早,大家纷纷发表声明,表示自家的人脸识别技术还是相当安全的。本文整理了各家的...

3536
来自专栏钱塘大数据

干货丨你们要的教育大数据产品都在这里

导读 教育改革进入“深水区”后,破解教育领域深层次矛盾的难度加大,利用教育大数据助力教育改革与发展正变得越来越重要。 大数据时...

2786
来自专栏大数据文摘

《算法帝国》:被算法和算法交易改变的未来

2225
来自专栏新智元

【V直播】三专家解读波士顿动力Atlas惊艳后空翻7大技术难点

【新智元导读】上周五,波士顿动力发布机器人Atlas的最新视频。这个会后空翻的机器人在网络上引起热议,新智元微信公众号上的文章阅读量也超过了10万+。昨天,在新...

3229
来自专栏AI科技大本营的专栏

盘点 | 假期里你错过的人工智能重要新闻有这些

AI科技大本营导读:狗年的春节已过,想必现在很多读者都已经回到了学习或工作的状态,不然就是在回去的路上。节日期间大家忙着走亲串友,可能错过了一些人工智领域的最新...

3115

扫描关注云+社区