【学术】3D模型也能做对抗样本—CSAIL做出被谷歌AI识别成枪支的玩具乌龟

在过去，我们欺骗AI的对抗样本往往是平面图。而近日CSAIL（麻省理工学院的计算机科学与人工智能实验室）的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。

• 完整视频链接：http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4?_=1

从视频中我们可以看到，即使我们移动或翻转这只玩具龟，AI仍然认为这是一支来福枪。CSAIL研究人员表示，开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本，如果想要更加安全的自动驾驶技术，这无疑会成为接下来的研究焦点。

此外，3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范，可能会造成很严重的事故。