谷歌发现机器视觉的“阿喀琉斯之踵”


现代科技最引人注目的进步之一是机器视觉的兴起。在短短的几年间,新一代的机器学习技术已经改变了计算机对图像的识别方法。现在,机器在人脸识别和物体识别方面已超越了人类并且彻底改变了大量的基于视觉的任务,比如驾驶、安全监控等等。机器视觉现在已具有超人的能力。

但据麻省理工《技术评论》报道,来自谷歌和OpenAI研究所的研究人员发现了机器视觉算法的一个弱点:机器视觉会被一些经过修改的图像干扰,而人类可以很容易地发现这些图像的修改之处。

研究人员指出:“一例子是对人脸图像打上非常细微的标记,人类依然可以正确地识别出图像中人物的身份,但机器学习系统会把他们识别成其他人”。研究人员对此进行了系统的研究,揭示了机器视觉系统的弱点。研究团队一开始使用了ImageNet,该数据库的图像根据其显示的内容被分类;研究人员首先使用该数据库的一部分图像来训练一个机器算法,然后用另一部分图像来评估算法是否能良好地进行分类。研究团队用三种不同的方式修改了5万张来自ImageNet的图片,从而创造了一个对比图像数据库。第一种算法对图像进行了较小的改变从而最大化这项交叉熵,第二种算法是将这个过程迭代来进一步地改变某张图像,第三项算法改变了某张图像从而能控制机器视觉系统,并让其出现某种特定的分类错误。研究团队测试Google的Inception v3算法能否正确地对这些图像进行分类,结果发现前两种算法大幅度地降低了精确度,但是第三种算法将所有图像的精确度减小至零。

这项研究揭示了机器视觉的阿喀琉斯之踵,未来还有很多值得研究的内容。研究人员希望为其他类型的视觉系统开发比较图像,从而使这些系统更有效率。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏计算机视觉战队

深度学习的昨天、今天和明天

机器学习是人工智能领域的一个重要学科。 自从20世纪80年代以来, 机器学习在算法、理论和应用等方面都获得巨大成功。2006年以来, 机器学习领域中一个叫“ 深...

3394
来自专栏计算机视觉战队

深度学习的昨天、今天和明天

机器学习是人工智能领域的一个重要学科。 自从20世纪80年代以来, 机器学习在算法、理论和应用等方面都获得巨大成功。2006年以来, 机器学习领域中一个叫“ 深...

723
来自专栏计算机视觉战队

深度学习的昨天、今天和明天

机器学习是人工智能领域的一个重要学科。 自从20世纪80年代以来, 机器学习在算法、理论和应用等方面都获得巨大成功。2006年以来, 机器学习领域中一个叫“ 深...

1387
来自专栏CSDN技术头条

入坑机器学习,必知必会的十个知识点

这篇文章主要面向的是非专业的读者,简单直白地介绍了机器学习的概念、内涵、以及机器学习的相关问题。对于专业人士而言也可以依据这篇文章对机器学习的概念做更深入的理解...

2237
来自专栏机器学习算法与Python学习

资料 | 机器学习数学基础教程【PDF下载】

《机器学习数学基础》由Marc Peter Deisenroth、A Aldo Faisal和Cheng Soon Ong撰写,共381页。这本书并没有涵盖前沿...

3985
来自专栏人工智能头条

入坑机器学习,十个知识点你不得不知

1402
来自专栏AI科技评论

干货 | “回归分析”真的算是“机器学习”吗?

是什么将“统计”从“机器学习”中分离出来的?个被讨论过无数次的问题。关于这个问题的文章有很多,人们对其好坏莫衷一是。但是我发现,在“统计”和“机器学习”的争论上...

3247
来自专栏数据科学与人工智能

【原理】机器学习欠拟合与过拟合

小编邀请您,先思考: 1 什么是欠拟合? 2 什么是过拟合? 在数据科学学科中, 过度拟合(overfit)模型被解释为一个从训练集(training set)...

43814
来自专栏专知

Yan Lecun 自监督学习:机器能像人一样学习吗? 110页PPT+视频

【导读】10月5日,瑞士洛桑理工授予Facebook首席AI科学家Yan Lecun荣誉博士学位,同时Yan Lecun做了名为《Self-supervised...

1.4K3
来自专栏企鹅号快讯

2018 年最值得期待的学术进展——致人工智能研究者们的年终总结

原标题:2018 年最值得期待的学术进展——致人工智能研究者们的年终总结 ? 来源:AI科技评论 概要:这里,我们为大家奉上机器学习学者 Alex Honcha...

1857

扫码关注云+社区