谷歌发现机器视觉的“阿喀琉斯之踵”


现代科技最引人注目的进步之一是机器视觉的兴起。在短短的几年间,新一代的机器学习技术已经改变了计算机对图像的识别方法。现在,机器在人脸识别和物体识别方面已超越了人类并且彻底改变了大量的基于视觉的任务,比如驾驶、安全监控等等。机器视觉现在已具有超人的能力。

但据麻省理工《技术评论》报道,来自谷歌和OpenAI研究所的研究人员发现了机器视觉算法的一个弱点:机器视觉会被一些经过修改的图像干扰,而人类可以很容易地发现这些图像的修改之处。

研究人员指出:“一例子是对人脸图像打上非常细微的标记,人类依然可以正确地识别出图像中人物的身份,但机器学习系统会把他们识别成其他人”。研究人员对此进行了系统的研究,揭示了机器视觉系统的弱点。研究团队一开始使用了ImageNet,该数据库的图像根据其显示的内容被分类;研究人员首先使用该数据库的一部分图像来训练一个机器算法,然后用另一部分图像来评估算法是否能良好地进行分类。研究团队用三种不同的方式修改了5万张来自ImageNet的图片,从而创造了一个对比图像数据库。第一种算法对图像进行了较小的改变从而最大化这项交叉熵,第二种算法是将这个过程迭代来进一步地改变某张图像,第三项算法改变了某张图像从而能控制机器视觉系统,并让其出现某种特定的分类错误。研究团队测试Google的Inception v3算法能否正确地对这些图像进行分类,结果发现前两种算法大幅度地降低了精确度,但是第三种算法将所有图像的精确度减小至零。

这项研究揭示了机器视觉的阿喀琉斯之踵,未来还有很多值得研究的内容。研究人员希望为其他类型的视觉系统开发比较图像,从而使这些系统更有效率。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

Nature再发DeepMind研究:AI复现大脑网格细胞模拟导航!

1564
来自专栏ATYUN订阅号

Deepmind重大突破:训练AI学习人类大脑导航技巧

英国研究人员团队开发了一个人工智能项目,可以学习在迷宫里走捷径以实现目标。在这一过程中,程序开发出类似人脑的结构,学习导航技巧。

593
来自专栏人工智能头条

Yann LeCun:CNN已解决CIFAR-10,目标 ImageNet

1876
来自专栏人工智能快报

新型神经网络可从单张照片识别人脸

借助于深度神经网络,俄罗斯国立高等经济大学的人研究人员已经提出了一种新方法,能够从视频中识别出人的身份。该方法不需要大量的照片,并且与现有方法相比具有明显更高的...

802
来自专栏量子位

DeepMind大突破!AI模拟大脑导航功能,学会像动物一样“抄近路”| Nature论文

这次他们又训练出了一个AI智能体,学会了类似哺乳动物一样的“抄近路”能力,这次研究的目的,就是设法模仿人类大脑,用复杂的方式在周围空间里导航。这是一个前所未有的...

926
来自专栏量子位

旷视首席科学家孙剑:计算机视觉的变革和挑战 | 北大AI公开课笔记

周三晚,北京大学“人工智能前沿与产业趋势”第三讲,本期旷视研究院院长孙剑授课主题为“计算机视觉的变革与挑战”,分享了计算机视觉和深度学习领域的一些研究进展。

885
来自专栏人工智能头条

2017年深度学习十大趋势预测

1252
来自专栏新智元

【2天=100年】OpenAI用打Dota2的算法造了一只会转方块的机器手

【新智元导读】之前在DOTA2团队战中战胜人类玩家的OpenAI Five,现在被用于训练机器手,取得了前所未有的灵活度。这只机器手完全在虚拟环境中自我学习和训...

642
来自专栏专知

最新|DeepMind获得人工智能会议UAI2018最佳论文,一种神经网络可扩展验证的对偶方法

【导读】UAI大会全称为Conference on Uncertainty in Artificial Intelligence,立足于不确定性人工智能领域,主...

601
来自专栏AI科技评论

旷视科技首席科学家孙剑:登上“人工智能之月”,我们爬树还是造火箭?

雷锋网按:本文根据孙剑博士在微软亚洲研究院召开的“让世界充满 AI-人工智能研讨会”上所做的报告《通向视觉智能之路》 编辑整理而来,在未改变原意的基础上略有删减...

3355

扫描关注云+社区