人工智能领域 上演红蓝大战

这个世界上,只要有人称自己的长矛“锋利无比”,就会有人研究“坚不可摧”的盾牌。这种矛与盾的博弈,最近在高深莫测的人脸识别领域中再演。

大多数人,想来包括你我,不喜欢陌生人只是基于我们的在线照片就能发现我们是谁。而由于社交媒体网站使用面部识别系统,系统又越来越“老练”,这种担心与日俱增。加拿大多伦多大学的科学家决定采取一些措施,来对抗人工智能(AI)的人脸识别系统。

帕勒姆·阿布丁教授和研究生博斯设计了两个基于人工智能的神经网络。其中一个是“常规”的,使用现有的面部识别技术来识别照片中的人;另一个网络则就是“蓝军”了,它会稍微改变照片中被用来识别人脸的一些因素,试图挫败前者。

博斯说:“我们的对抗性人工智能,能攻击用于人脸检测的神经网络。例如,面部识别寻找被测对象的眼角,并据此来识别,那我们就调整眼角,使其不那么明显。这样做在照片中造成的干扰非常细微,不过骗过人脸检测系统,它是足够有效的。”

附图是很好的例子,上下两位女士,左边是原始照片,红框标示了人脸识别软件关心的区域;中间两幅,就是让干扰软件略作修改后的照片,相信朋友们肯定还能认出她们。而右边的两幅则记录了系统留存的特征信息,从人脸识别的角度而言,已经是“面目全非”了。

“红”“蓝”两个神经网络来回交手了一段时间,各自一直捉摸对方在做什么,想出办法试图瞒过它。大战诸多回合后,阿布丁和博斯归结了一种算法,人脸的照片用它处理过后,人脸检测神经网络几乎不能完成面部识别;而认识事主的人,仍能辨认出“谁是谁”。

他们对系统的测试采用了国际计算机视觉大会ICCV几年前颁布的300-W人脸数据集,这里包括600多张人脸照片,覆盖不同种族、光照条件和环境,是相关试验普遍采用的“模板”。测试的结果是:如果没有将“对抗”算法应用于这些照片,随便找个面部识别系统就能几乎百分之百地准确识别;而一旦用上干扰措施,这个识别率降到了0.5%。

他俩希望能把算法集成到公开应用程序或网站中去,让关注隐私的人在那里对自己的照片先行处理,然后再在网上发布。

可以说,眼下这个回合,干扰人脸识别的“蓝军”暂时占了先机。欲知后事如何,且听下回分解。

凌启渝 (图:Avishek Bose)

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180624A0TO0Z00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券