独家 | 如何戏弄人脸识别系统

作者：Karen Hao 和 Patrick Howell O'Neill

翻译：欧阳锦

校对：和中华

本文约1600字，建议阅读5分钟。

本文通过对人脸识别系统的攻击揭示了该系统的脆弱性和漏洞所在，并对人脸识别系统在人类社会中的广泛使用的现状提出了建设性的意见与建议。

标签：人脸识别 攻击 安全性 GAN

人脸识别技术作为一种在机场和其他高安全场景下识别人群的方法，正在飞速发展和普及，但它距离“万无一失”还有很长一段路要走。

研究人员已经证明他们可以欺骗现代的人脸识别系统，使它辨别出一个根本不在那里的人。

来自网络安全公司McAfee的某小组针对一个与目前用于机场验证护照的系统相类似的面部识别系统发起攻击。通过使用机器学习，他们创建了一张由人眼识别为同一个人的照片，却被人脸识别算法识别成为了其他人——这相当于欺骗了机器，使得某些在禁飞名单上的人正常登机。

这里有一个视频

https://youtu.be/FAEXmhkB17M

该研究的第一作者Steve Povolny说，“当我们站在实时相机前——这个相机使用人脸识别去辨认他们正在看到的人并与护照照片进行比对，我们可以实实在在地并且重复不断地引起这种针对性误分类（targeted misclassification）。”

如何做到的

为了误导算法，研究者们使用了一种很擅长转换图片样式风格的算法——CycleGAN。打个比方，它可以让一张照片变成一张仿佛出自于莫奈之手的名画，让那些拍摄于夏天的山脉像是拍摄于冬季。

JUN-YAN ZHU 和 TAESUNG PARK 等人

McAfee团队使用了项目两位负责人的1,500张照片，并将这些图像喂进CycleGAN算法中使它们彼此改变。同时，他们使用人脸识别算法去检测CycleGAN生成的图像会被识别成谁。在生成了上百张图片后，CycleGAN终于生成了一张肉眼看起来像A，但是人脸识别系统识别成B的图像。

尽管该研究对人脸识别系统的安全性提出了明确的担忧，但也有一些注意事项。首先，研究人员并没有进入机场真正用来识别乘客的系统，而是使用了一种最先进的、开源算法对其进行估计。“我认为对于一个攻击者来说这将是一个最难攻克的地方”，Povolny说，“（他们）没有权限进入目标系统。”尽管如此，考虑到人脸识别算法的高度相似性，他认为这种攻击在实际的机场系统中也很有可能发生。

第二，如今的攻击需要大量的时间和资源。CycleGAN需要很强的算力和技能经验去训练和执行。

但是人脸识别系统和自动化护照管控在世界各地的机场中的使用率都逐渐升高，新冠疫情带来的转变和对于非接触式系统的需求也加速了这种趋势。这项技术也已经广泛用于政府和一些企业机构，例如执法、招聘和活动安全——尽管很多团体已经呼吁暂停这种发展，并且一些城市已经禁止使用这项技术。

有一些技术尝试去颠覆人脸识别。一个来自芝加哥的大学的团队最近发布了一个名叫Fawkes的工具，它主要为了在社交媒体上通过细微地改变你的照片来“遮挡”面部，以欺骗依赖于数十亿张此类图片数据库的AI系统。人工智能公司Kneron的研究人员还展示了面具如何能欺骗那些已经在世界各地投入使用的人脸识别系统。

McAfee的研究人员说他们的目标最终是证明这些AI中的固有漏洞，并明确人类必会处在这个循环之中。

“人工智能和人脸识别是帮助人们识别、核实人员的功能强大的工具，” Povolny 说道。“但是如果你只是拿来并盲目地替代完全依赖于人工的原有系统，并且没有二次检查的话，那么你有可能突然造成比以前更大的问题。”

GAN的工作方式

生成式对抗网络是一组可以巧妙地使神经网络彼此对抗以产生更好结果的算法。

在传统的GAN中，只有两种网络：一个是生成器，用来在数据集上训练（例如夏天的美景）以生成更多夏天的美景；；另一个是判别器，用来对比生成的风景图和相同的数据集，以辨别孰真孰假。

CycleGAN 通过使用两个生成器和两个判别器改变了这一过程。这里将会有两个图片集，例如夏天美景和冬天美景，代表了两种你想要相互翻译的图片类型。

这一次，第一个生成器以尝试生成冬天美景为目标训练夏天美景的图片。与此同时，第二个生成器以生成夏天美景为目标训练冬天美景的图片。两个判别器会一直努力的挑出赝品直到难以区分出生成的美景图和真的美景图为止。

原文标题：

The hack that could make face recognition think someone else is you

原文链接：

https://www.technologyreview.com/2020/08/05/1006008/ai-face-recognition-hack-misidentifies-person/

编辑：于腾凯

校对：林亦霖

译者简介

欧阳锦，我是一名即将去埃因霍芬理工大学继续攻读数据科学专业的硕士生。本科毕业于华北电力大学，自己喜欢的科研方向是隐私安全中的数据科学算法。有很多爱好和兴趣（摄影、运动、音乐），对生活中的事情充满兴趣，是个热爱钻研、开朗乐观的人。为了更好地学习自己喜欢的专业领域，希望能够接触到更多相关的事物以开拓自己的眼界和思路。