【学术】3D模型也能做对抗样本—CSAIL做出被谷歌AI识别成枪支的玩具乌龟

在过去,我们欺骗AI的对抗样本往往是平面图。而近日CSAIL(麻省理工学院的计算机科学与人工智能实验室)的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。

  • 完整视频链接:http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4?_=1

从视频中我们可以看到,即使我们移动或翻转这只玩具龟,AI仍然认为这是一支来福枪。CSAIL研究人员表示,开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本,如果想要更加安全的自动驾驶技术,这无疑会成为接下来的研究焦点。

此外,3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范,可能会造成很严重的事故。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-11-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏量子位

利用人工智能“解锁”世界音乐

颜萌 编译整理 量子位 出品 | 公众号 QbitAI ? 人们喜欢感受的是音乐带来的那种氛围。 整理过歌单的任何人都知道,好的歌单往往有一种贯穿始终的情感。...

3598
来自专栏华章科技

牛津教授54页PPT揭秘AI革命及其前沿进展!(PPT原文及注解)

导读:2018年9月9日-14日,DeepMind主办的Deep Learning Indaba 2018大会在南非斯泰伦博斯举行。会上,牛津大学教授Nando...

832
来自专栏AI科技评论

重磅丨谷歌大脑的 2016 实现了哪八个小目标?Jeff Dean 亲自撰文回顾

AI 科技评论按:提起 Google Brain(谷歌大脑)团队,它在 2016 年因为推出了基于神经网络的机器翻译功能火了一把。AI 科技评论也在近日参加了硅...

2855
来自专栏新智元

CVPR2016 主旨演讲及焦点论文速览,深度学习垄断地位遭质疑

【新智元导读】计算机视觉国际顶尖会议CVPR2016近日召开,从提交论文和口头报告内容看,深度学习成为主流。本文介绍会议概况及相关成果,比如谷歌教计算机学会分辨...

3398
来自专栏PPV课数据科学社区

4月14日对话吴恩达(Andrew Ng):超级大咖深度解析人工智能的发展现状与未来沙龙实录

2016年4月14日(周四)21:00 - 22:30 嘉宾: - 吴恩达(Andrew Ng):百度首席科学家,“百度大脑”、“谷歌大脑”负责人,斯坦福大学计...

3416
来自专栏新智元

Facebook 开源机器学习库 TorchCraft(附 LeCun 深度学习教学视频)

【新智元导读】Facebook 日前开源了机器学习库 TorchCraft,方便研究人员使用控制器,编写能够玩星际争霸游戏的智能代理。此外,本周五 FAIR 主...

4137
来自专栏AI科技评论

吴恩达亲自采访百度林元庆和谷歌 Ian Goodfellow,他们对AI入门者有何忠告?

AI 科技评论按:随着吴恩达公开 Deeplearning.ai 系列深度学习课程,他也出人意料地放出了一系列主题为“The Heros in Deep Lea...

2825
来自专栏大数据文摘

一名数据科学家的新年计划

1142
来自专栏人工智能头条

中文自然语言处理实现突破,京东智能广告实验室论文被ACL收录

921
来自专栏CDA数据分析师

吴恩达再次刷屏,推出深度学习课程deeplearning.ai

? 吴恩达离职百度后的动向一直受到各方关注。在他 3 月的一篇博客文章中,这位斯坦福大学教授宣布他将离开中国搜索引擎百度,这一举动给百度造成了超过 10 亿美...

1985

扫码关注云+社区