自带迷幻剂技能的小贴纸:忽悠神经网络,让它将一切都当作烤面包机!

大数据文摘作品

编译:Katrine.Ren、元元

当下的图像识别技术看似愈发成熟了,但自带蠢萌属性的它实际上依然可以被轻易愚弄。

研究人员最近就成功忽悠了一把以智能著称的算法,让它们一脸懵逼地犯下了一系列错误:

比如把两个滑雪的人辨识为一只狗,把一个棒球看成是一杯意式咖啡,又例如把一只乌龟误认为是一把步枪。

最新的一个欺骗机器的方法操作更为简单,却有更深远的影响,所需要的道具也仅仅是一张简陋的贴纸而已。

图注按顺序为:将贴纸放在桌上,输入分类器的图像,分类器输出结果

这款由谷歌的研究人员新近开发的自带迷幻剂属性的小贴纸可是相当厉害了。只要将它放在任何一张图片上,深度学习系统就会傻乎乎地把毫无关联的图像分辨为一部烤面包机。

据一篇最近提交的和这个神经网络攻击有关的研究论文所述,这块小小的“狗皮膏药”(对抗性补丁)是具有“场景无关性”的,这意味着任何一个“对光照条件、相机角度、被攻击的分类器类型或甚至场景中的其他事物没有事先了解”的人都可以利用这张贴纸,去实行对图像识别算法的攻击。

相关研究论文的arxiv链接:https://arxiv.org/abs/1712.09665

再加上贴纸本身可以在网络上被分享和打印出来,这个攻击方法简直是唾手可得。

一个由谷歌深度学习研究团队Google Brain的成员Tom Brown上传的油管视频,就展示了这块对抗性补丁是怎样作用于一张香蕉的图片上的。

点击查看相关视频?

视频内容

起先,一只香蕉放在桌上的图片是能够被VGG16这个神经网络正确识别为“香蕉”的,但把迷幻小贴纸放置于香蕉旁边后,神经网络随即把图片分类成了“烤面包机”。

正如研究人员在论文中所述,这个小把戏背后的原理,是深度学习模型其实每次只能探测到图像中最“显眼”的那个物品。

“对抗性补丁正是利用了这一特性,通过生成远远比真实物体显眼得多的图像输入(从而欺骗了模型)。”同时,研究人员在论文中写道,“因此,在攻击物体探测或是图像细分模型的时候,我们希望被定为识别目标的烤面包机贴纸一方面能被分辨为‘烤面包机’,另一方面也不会对图像本身的其他部分造成影响。”

即使现在研究人员已经有了许多种让机器学习算法产生视觉错误的方法,这个办法却因其简易操作且难以察觉的特点而显得尤为重要。

“即使人类能够注意到这些贴纸的存在,他们未必理解这些贴纸的真正意图,反而误认为这是某种艺术的表现形式。”研究人员如是说。

目前而言,让机器把一根香蕉看成是一部烤面包机的小恶作剧并不会对社会造成什么实际的危害。但随着我们这个世界的运行开始越来越依赖图像识别技术,这种操作简单的方法在将来很有可能会造成严重的破坏。

最重要的是随着无人驾驶技术的普及,这些智能汽车非常依赖于图像识别软件来理解它们周边的环境并与之互动。试想成千上万坨大型重磅的金属块在高速公路上飞驰时只看得见烤面包机,这将是一件多么危险的事情。

原文链接:https://gizmodo.com/this-simple-sticker-can-trick-neural-networks-into-thin-1821735479

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2018-01-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PaddlePaddle

一周AI资讯|以后的视频解说,可能是AI写出来的?

刚刚过去的一周,AI不仅晋升为游戏赢家,还逐步掌握看视频写故事和看笔迹鉴定国籍的能力。更多精彩可来围观本周AI资讯,预计阅读时间4分钟。

1091
来自专栏PPV课数据科学社区

【学习】 TensorFlow:最棒的深度学习加速器

TensorFlow没有改变世界。但是,它显然是最棒的,也是现有最便利的深度学习库。本文作者Zachary Chase Lipton是来自加利福尼亚大学计算机科...

2935
来自专栏大数据文摘

利用Python进行深度学习的完整入门指南(附资源)

2327
来自专栏数据科学与人工智能

【陆勤践行】机器学习最佳入门学习资料汇总

这篇文章的确很难写,因为我希望它真正地对初学者有帮助。面前放着一张空白的纸,我坐下来问自己一个难题:面对一个对机器学习领域完全陌生的初学者,我该推荐哪些最适合的...

2336
来自专栏IT派

深度学习框架的热度对比

近两年,该调查中使用深度学习工具的投票者所占份额保持稳定。2018 年有 33% 的投票者使用深度学习工具,2017 年和 2016 年分别有 32% 和 18...

1373
来自专栏数据科学与人工智能

机器学习最佳入门学习资料汇总

专为机器学习初学者推荐的优质学习资源,帮助初学者快速入门。 这篇文章的确很难写,因为我希望它真正地对初学者有帮助。面前放着一张空白的纸,我坐下来问自己一个难题:...

2425
来自专栏AI科技评论

Andrej Karpathy发文谈神经网络:这不仅仅是分类器,这是一种新的软件开发思想

AI科技评论按:有越来越多的传统编程语言(C、C++、Java)等程序员开始学习机器学习/深度学习,而对机器学习/深度学习的研究人员来说,编程也是必备技巧。那么...

3285
来自专栏ATYUN订阅号

AI帮助机器人在充满障碍的室内空间中穿行

随着机器人变得越来越重要,比如提供邮件,食物和指示,它们需要能够轻松地在室内环境中穿行。今年夏天,四名来自高中的NVIDIA实习生,CCCC团队(ForeSee...

942
来自专栏新智元

【攻克Dota2】OpenAI自学习多智能体5v5团队战击败人类玩家

【新智元导读】刚刚,OpenAI 宣布了一个大新闻——他们的一个由5个神经网络组成的OpenAI Five,已经开始击败Dota 2的业余玩家队伍。

910
来自专栏量子位

Google大脑工程师详解:深度学习技术能带来哪些新产品?

量子位 | 李林 整理编译 提到深度学习,你可能会想到认猫、认脸,或者下围棋、翻译……其实,这项技术还能用在很多你意想不到的地方。 那么,“深度学习的最新进展能...

3417

扫码关注云+社区

领取腾讯云代金券