人工智能领域 上演红蓝大战

这个世界上，只要有人称自己的长矛“锋利无比”，就会有人研究“坚不可摧”的盾牌。这种矛与盾的博弈，最近在高深莫测的人脸识别领域中再演。

大多数人，想来包括你我，不喜欢陌生人只是基于我们的在线照片就能发现我们是谁。而由于社交媒体网站使用面部识别系统，系统又越来越“老练”，这种担心与日俱增。加拿大多伦多大学的科学家决定采取一些措施，来对抗人工智能（AI）的人脸识别系统。

帕勒姆·阿布丁教授和研究生博斯设计了两个基于人工智能的神经网络。其中一个是“常规”的，使用现有的面部识别技术来识别照片中的人；另一个网络则就是“蓝军”了，它会稍微改变照片中被用来识别人脸的一些因素，试图挫败前者。

博斯说：“我们的对抗性人工智能，能攻击用于人脸检测的神经网络。例如，面部识别寻找被测对象的眼角，并据此来识别，那我们就调整眼角，使其不那么明显。这样做在照片中造成的干扰非常细微，不过骗过人脸检测系统，它是足够有效的。”

附图是很好的例子，上下两位女士，左边是原始照片，红框标示了人脸识别软件关心的区域；中间两幅，就是让干扰软件略作修改后的照片，相信朋友们肯定还能认出她们。而右边的两幅则记录了系统留存的特征信息，从人脸识别的角度而言，已经是“面目全非”了。

“红”“蓝”两个神经网络来回交手了一段时间，各自一直捉摸对方在做什么，想出办法试图瞒过它。大战诸多回合后，阿布丁和博斯归结了一种算法，人脸的照片用它处理过后，人脸检测神经网络几乎不能完成面部识别；而认识事主的人，仍能辨认出“谁是谁”。

他们对系统的测试采用了国际计算机视觉大会ICCV几年前颁布的300-W人脸数据集，这里包括600多张人脸照片，覆盖不同种族、光照条件和环境，是相关试验普遍采用的“模板”。测试的结果是：如果没有将“对抗”算法应用于这些照片，随便找个面部识别系统就能几乎百分之百地准确识别；而一旦用上干扰措施，这个识别率降到了0.5%。

他俩希望能把算法集成到公开应用程序或网站中去，让关注隐私的人在那里对自己的照片先行处理，然后再在网上发布。

可以说，眼下这个回合，干扰人脸识别的“蓝军”暂时占了先机。欲知后事如何，且听下回分解。

凌启渝 （图：Avishek Bose）