【学术】3D模型也能做对抗样本—CSAIL做出被谷歌AI识别成枪支的玩具乌龟

在过去,我们欺骗AI的对抗样本往往是平面图。而近日CSAIL(麻省理工学院的计算机科学与人工智能实验室)的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。

  • 完整视频链接:http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4?_=1

从视频中我们可以看到,即使我们移动或翻转这只玩具龟,AI仍然认为这是一支来福枪。CSAIL研究人员表示,开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本,如果想要更加安全的自动驾驶技术,这无疑会成为接下来的研究焦点。

此外,3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范,可能会造成很严重的事故。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-11-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏ATYUN订阅号

IBM研究人员通过探索缺失的事物来解释机器学习模型

在《白额闪电》(The Adventure of the Silver Blaze)中,福尔摩斯并不是通过能看到的线索解决了案件,而是通过注意到某一事物的缺失...

834
来自专栏AI派

近邻推荐之基于物品的协同过滤

在了解了基于用户的协同过滤之后,还有基于物品的的协同过滤。它们的原理非常类似。在电商平台中经常看到“看了又看”,“看过它的人还看”等等推荐,这些推荐背后对应的算...

3325
来自专栏吉浦迅科技

NVIDIA研究员如何进行机器人的抓取研究(附Deep Object Pose Estimation 代码)

英伟达的机器人研究人员开发了一种基于深度学习的新系统,该系统允许机器人在其环境中感知家居物体,以获取物体并与之互动。通过这种技术,机器人能够对已知的家用物体进行...

1282
来自专栏人工智能头条

深度学习 vs 机器学习 vs 模式识别

1183
来自专栏AI科技评论

干货 | 增强学习对于机器人运动控制的六字真言

五月末的人机大战让世人大开眼界,顶级围棋手柯洁落下的眼泪、微博的叹息,都是对AlphaGo这颗强劲“大脑”的赞叹。然而,让人工智能走出娱乐和游戏,真正进入人类的...

34013
来自专栏AI科技大本营的专栏

Yann LeCun:距离“真正的” AI,我们还缺什么?

【AI科技大本营导读】今天是 GMIC Beijing 2018 大会第一天,首个演讲者是 Facebook 首席 AI 科学家 Yann LeCun。他讲述...

1102
来自专栏大数据文摘

看视频就能学杂技,伯克利最新AI智能体

人类非常聪明,我们可以通过观察进行学习。无论是日常的洗手,还是惊人的杂技表演,对人类来说都是可以学习的。

562
来自专栏灯塔大数据

初识机器学习和人工智能

近日,英国皇家学会(Royal Society)发布了一份题为《机器学习:能通过样本进行学习的计算机的力量与希望(Machinelearning: the p...

3478
来自专栏专知

【下载】Python迁移学习实战书籍和代码《Hands-On Transfer Learning with Python》

【导读】英特尔数据科学家Dipanjan Sarkar等人最新撰写的Python迁移学习实战书籍《Hands-On Transfer Learning with...

2575
来自专栏数据科学与人工智能

机器学习与大数据风控

一个普遍的看法是,机器学习等人工智能技术会最先在金融领域落地。金融行业是最早实现信息化的行业,有丰富的数据积累,且对于用技术提升效率有更多的需求。 现在也有越来...

3988

扫码关注云+社区