【学术】3D模型也能做对抗样本—CSAIL做出被谷歌AI识别成枪支的玩具乌龟

在过去,我们欺骗AI的对抗样本往往是平面图。而近日CSAIL(麻省理工学院的计算机科学与人工智能实验室)的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。

  • 完整视频链接:http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4?_=1

从视频中我们可以看到,即使我们移动或翻转这只玩具龟,AI仍然认为这是一支来福枪。CSAIL研究人员表示,开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本,如果想要更加安全的自动驾驶技术,这无疑会成为接下来的研究焦点。

此外,3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范,可能会造成很严重的事故。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-11-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

干货 | 「我的第一次数据科学家实习经历」

AI 科技评论按:「数据科学家」可谓是近几年的一大热门职位,很多学习了数学、信息、计算机相关专业的同学都对它表示跃跃欲试。Admond Lee 学习了物理专业...

962
来自专栏python读书笔记

《算法图解》开读

1064
来自专栏人工智能头条

Andrej Karpathy:特斯拉Autopilot计算机视觉及神经网络最新研究进展

672
来自专栏PaddlePaddle

AI不思议|打Dota2和辩论都赢了,AI真的要超过人类?

继Alpha Go对战围棋天才柯洁取胜后,近期AI技术又出现新战绩。前有IBM的Project Debater与人类辩论胜出,后有Dota2中OpenAI的战队...

862
来自专栏AI科技评论

李飞飞:在物体识别之后,计算机视觉还要多久才能理解这个世界?

AI科技评论按:9 月 26 日,机器人领域的顶级学术会议 IROS 2017 进入第二日。上午,著名华人计算机视觉专家、斯坦福副教授李飞飞,在温哥华会议中心面...

2566
来自专栏ATYUN订阅号

哈佛大学开发新的优化算法,加快复杂问题的最佳解决方案的计算速度

哈佛大学研究人员开发的新算法通过减少所需的步骤数,以比以前的算法更快的速度解决优化问题。新算法可以大大缩短计算机推荐电影或计算出租车路线的时间。

683
来自专栏CDA数据分析师

我是如何从物理学转行到数据科学领域

很多人问我是如果从物理学转行到数据科学,本文讲述了关于我为什么决定成为一名数据科学家,以及我是如何追求并实现目标的。希望能够最终鼓励更多的人追求自己的梦想。让我...

932
来自专栏机器之心

业界 | 让人工智能学会谈判,Facebook开源端到端强化学习模型

选自code.facebook 机器之心编译 参与:吴攀、李亚洲 每天从我们醒来的那一刻,生活中就充满了经常性的谈判(negotiations)。这些场景包括讨...

32611
来自专栏新智元

【谷歌草绘RNN瞄准超级AI】源自壁画的飞跃,AI 学会归纳抽象概念

【新智元导读】人类自从开始在洞穴的岩壁上画出简单的草图,认知能力就产生了飞跃——归纳抽象的能力大大提高。现在,谷歌的 Magenta 项目也在致力于这一研究。名...

3029
来自专栏人工智能快报

DARPA拟解开机器学习的黑匣子

美国《MIT技术评论》杂志发表了Will Knight的文章,名为:美国军方要求自动化机器能够解释自身机制。文章表示:最新的机器学习技术本质上是一个黑匣子。美国...

3985

扫描关注云+社区