谷歌发现机器视觉的“阿喀琉斯之踵”


现代科技最引人注目的进步之一是机器视觉的兴起。在短短的几年间,新一代的机器学习技术已经改变了计算机对图像的识别方法。现在,机器在人脸识别和物体识别方面已超越了人类并且彻底改变了大量的基于视觉的任务,比如驾驶、安全监控等等。机器视觉现在已具有超人的能力。

但据麻省理工《技术评论》报道,来自谷歌和OpenAI研究所的研究人员发现了机器视觉算法的一个弱点:机器视觉会被一些经过修改的图像干扰,而人类可以很容易地发现这些图像的修改之处。

研究人员指出:“一例子是对人脸图像打上非常细微的标记,人类依然可以正确地识别出图像中人物的身份,但机器学习系统会把他们识别成其他人”。研究人员对此进行了系统的研究,揭示了机器视觉系统的弱点。研究团队一开始使用了ImageNet,该数据库的图像根据其显示的内容被分类;研究人员首先使用该数据库的一部分图像来训练一个机器算法,然后用另一部分图像来评估算法是否能良好地进行分类。研究团队用三种不同的方式修改了5万张来自ImageNet的图片,从而创造了一个对比图像数据库。第一种算法对图像进行了较小的改变从而最大化这项交叉熵,第二种算法是将这个过程迭代来进一步地改变某张图像,第三项算法改变了某张图像从而能控制机器视觉系统,并让其出现某种特定的分类错误。研究团队测试Google的Inception v3算法能否正确地对这些图像进行分类,结果发现前两种算法大幅度地降低了精确度,但是第三种算法将所有图像的精确度减小至零。

这项研究揭示了机器视觉的阿喀琉斯之踵,未来还有很多值得研究的内容。研究人员希望为其他类型的视觉系统开发比较图像,从而使这些系统更有效率。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-13

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CSDN技术头条

入坑机器学习,必知必会的十个知识点

这篇文章主要面向的是非专业的读者,简单直白地介绍了机器学习的概念、内涵、以及机器学习的相关问题。对于专业人士而言也可以依据这篇文章对机器学习的概念做更深入的理解...

2417
来自专栏大数据文摘

业界 | 图像识别的未来:机遇与挑战并存

在计算机视觉领域,图像识别这几年的发展突飞猛进,但在进一步广泛应用之前,仍然有很多挑战需要我们去解决。本文中,微软亚洲研究院视觉计算组的研究员们为我们梳理目前深...

2152
来自专栏计算机视觉战队

深度学习的昨天、今天和明天

机器学习是人工智能领域的一个重要学科。 自从20世纪80年代以来, 机器学习在算法、理论和应用等方面都获得巨大成功。2006年以来, 机器学习领域中一个叫“ 深...

3524
来自专栏周景超的专栏

腾讯 AI Lab 计算机视觉中心人脸 & OCR团队近期成果介绍(3)

在上一期中介绍了我们团队部分已公开的国际领先的研究成果,近期我们有些新的成果和大家进一步分享。

5442
来自专栏人工智能头条

入坑机器学习,十个知识点你不得不知

1502
来自专栏数据科学与人工智能

【原理】机器学习欠拟合与过拟合

小编邀请您,先思考: 1 什么是欠拟合? 2 什么是过拟合? 在数据科学学科中, 过度拟合(overfit)模型被解释为一个从训练集(training set)...

46414
来自专栏PaddlePaddle

【PaddlePaddle视频新课】之语义角色标注

PaddlePaddle之语义角色标注 http://bit.baidu.com/course/detail/id/178/column/117.html

942
来自专栏一个爱吃西瓜的程序员

什么是数据挖掘?

近年来,数据分析,数据挖掘和数据科学等领域不可谓不火热。而且人工智能、算法、数据科学领域的薪酬普遍高于传统互联网行业。既然决定从事互联网行业,那就得给自己找一个...

3389
来自专栏人工智能头条

OpenAI NLP最新进展:通过无监督学习提升语言理解

931
来自专栏计算机视觉战队

深度学习的昨天、今天和明天

机器学习是人工智能领域的一个重要学科。 自从20世纪80年代以来, 机器学习在算法、理论和应用等方面都获得巨大成功。2006年以来, 机器学习领域中一个叫“ 深...

1637

扫码关注云+社区

领取腾讯云代金券