一个小把戏 让谷歌最先进的图像识别A.I.软件败下阵来

人工智能在过去几年取得的进步，值得一说的就是计算机对图片内容的识别能力了。然而，简单的测试就能让这种识别系统丑态百出。

阿拉巴马州奥本大学的研究人员以及媒体巨头Adobe Systems发现了一种可以愚弄这套系统的最新把戏。在发表的一篇研究报告中，他们指出，如果物体被轻微移动或旋转，顶级的图像识别神经网络很容易就失灵了。

举个例子，如果从正面展示一辆消防车，神经网络就能正确识别。但是，当图片展示的是消防车底部，而且这辆消防车还被多次旋转，那么神经网络会误认为这辆消防车是校车、救火船或雪橇。

虽然之前的研究已经表明，可以通过修改图像的纹理或光照来愚弄神经网络，但这是第一次发现一旦图片中物体的“姿势”（即物体的三维方向）被修改，神经网络就无法识别。

研究的结果是，图像识别技术目前仍处于“幼稚的”阶段，它们还需要对三维结构有更好的理解，才能变得更好。

研究人员的结论是，像谷歌Inception这样的神经网络最擅长于对图片中的事物进行“分类”，但它们并不是真正意义上的物体识别。

这篇名为Strike (with) a Pose: Neural Networks Are Easily Fooled by Strange Poses of Familiar Objects的研究报告，被发布在arXiv预印服务器上，作者是奥本大学的Michael A. Alcorn、Qi Li、Zhitao Gong、Chengfei Wang、Wei-Shinn Ku、和Anh Nguyen以及Adobe的Long Mai。（Adobe也为此提供了资金支持。）

作者还在GitHub上发布了他们用来做这项研究的源代码。

研究人员购买了一组由100个三维计算机渲染的物体组成的数据集，这些物体与ImageNet数据库中发现的用于训练神经网络图像识别的物体相似。也就是说，这个数据集里包含着车辆，如校车和消防车，停车标志，长椅和狗。

然后他们通过改变物体的俯仰角、偏航角和翻滚角来修改这些3D物体的呈现角度。他们使用了一种叫做“随机搜索”的程序来寻找可以愚弄谷歌最先进的神经网络“Inception v.3”的物体姿势。从本质上说，他们是在训练一组方程，以便能够很好地生成图像的“对抗样本”，就像把一个神经网络和另一个神经网络对立起来。

在他们的测试中，Inception“对于绝大多数的样本识别都是错误的。对于总共30个物体的正确分类的平均比例仅为3.09%。”

最重要的一点是，谷歌Inception并没有错误地描述了一个对象的所有图像，它能正确识别其中一些系统生成的图像。但这个可以识别正确的范围往往很窄，它会被超出标准的姿势弄糊涂。

“DNN（深度神经网络，Deep Neural Networks）在图像中识别物体（例如消防车）的能力随着物体的旋转而急剧变化，”他们写道。

作者发现，只要稍加修改就能产生巨大的影响：在场景中，将物体按“俯仰”角度旋转8度， 再“翻滚”角度旋转9.17度， 就足以让Inception一片混乱。对抗性神经网络能够让Inception陷入困境，迫使它错误地分类了797个不同的对象。

结果就是，Inception和其他图像识别系统本身并不能真正识别物体。“总而言之，我们的研究表明，最先进的DNN能很好地将图像分类，但仍远远没有达到真正的对象识别，”他们写道。但他们发现，即使是对象检测系统也可能被愚弄。然后，作者使用他们的对抗式系统来检测顶级的“Yolo v3”对象识别系统。他们发现击败Inception的75.5%的图片也搞混了Yolo。

很明显，神经网络可能需要一些实质性的帮助才能继续发展。即使对“AlexNet”神经网络进行了再训练，将对抗图像包含在ImageNet数据库中，训练后面对新的对抗图像样本，AlexNet仍然会被搞混。

作者认为，一些问题可能与互联网上发现的用于神经网络训练的图像中的某种美感有关。

他们写道：“因为ImageNet和MS COCO数据集是由人类拍摄的照片构成的，所以这些数据集反映了俘获者的审美倾向。”

作者提出的一种解决方案是在ImageNet中加载大量的对抗性样本。但他们指出，“获取大规模、高质量的3D对象数据集是成本高、劳动密集的工作。”

他们提出的另一个建议是使用“几何先验”模型丰富神经网络。

他们提出，这项研究可能是创造整个“对抗性世界”的开端，这个“对抗性世界”可以测试深度学习系统。这种研究可以“作为一种可解释的工具，用来提取关于这些黑匣子模型内部功能的有用见解”。

UNIXSeller (UNIXSeller.com) sells new, refurbished and used Server/Datacenter Hardware. We carry a large inventory of equipment allowing us to offer deep discounts and immediate shipping. All hardware fully tested and guaranteed by UNIXSeller warranty.