【学术】3D模型也能做对抗样本—CSAIL做出被谷歌AI识别成枪支的玩具乌龟

在过去,我们欺骗AI的对抗样本往往是平面图。而近日CSAIL(麻省理工学院的计算机科学与人工智能实验室)的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。

  • 完整视频链接:http://imgcdn.atyun.com/2017/11/Fooling-Image-Recognition-with-Adversarial-Examples.mp4?_=1

从视频中我们可以看到,即使我们移动或翻转这只玩具龟,AI仍然认为这是一支来福枪。CSAIL研究人员表示,开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本,如果想要更加安全的自动驾驶技术,这无疑会成为接下来的研究焦点。

此外,3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范,可能会造成很严重的事故。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-11-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

学界 | 如何设计奖励函数

选自 nlpers.blogspot 机器之心编译 参与:Jane W、黄小天 作者Hal Daumé III是美国马里兰大学计算机科学院CLIP lab副教授...

29811
来自专栏AI科技评论

干货 | 增强学习对于机器人运动控制的六字真言

五月末的人机大战让世人大开眼界,顶级围棋手柯洁落下的眼泪、微博的叹息,都是对AlphaGo这颗强劲“大脑”的赞叹。然而,让人工智能走出娱乐和游戏,真正进入人类的...

34213
来自专栏大数据文摘

看视频就能学杂技,伯克利最新AI智能体

人类非常聪明,我们可以通过观察进行学习。无论是日常的洗手,还是惊人的杂技表演,对人类来说都是可以学习的。

652
来自专栏数据科学与人工智能

机器学习与大数据风控

一个普遍的看法是,机器学习等人工智能技术会最先在金融领域落地。金融行业是最早实现信息化的行业,有丰富的数据积累,且对于用技术提升效率有更多的需求。 现在也有越来...

4348
来自专栏AI科技评论

学界 | 深度学习与强化学习相结合,谷歌训练机械臂的长期推理能力

AI 科技评论按:机器人如何能够学到在多样且复杂的真实世界物体和环境中能够广泛使用的技能呢?如果机器人是设计用来在可控环境下进行高效的重复工作,那么这个任务就相...

1031
来自专栏人工智能头条

微软亚洲研究院:计算机看懂视频的步骤及未来努力方向

1352
来自专栏AI派

近邻推荐之基于物品的协同过滤

在了解了基于用户的协同过滤之后,还有基于物品的的协同过滤。它们的原理非常类似。在电商平台中经常看到“看了又看”,“看过它的人还看”等等推荐,这些推荐背后对应的算...

3485
来自专栏企鹅号快讯

IBM Watson提出人机推理网络HuMaINs,结合人机两者优势

选自arXiv 机器之心编译 参与:刘晓坤、黄小天 人机交互可以用机器的优势弥补人类决策的非理性缺陷。近日,IBM Watson 研究中心联合多家研究机构提出了...

2049
来自专栏AI研习社

增强学习对于机器人运动控制的六字真言

五月末的人机大战让世人大开眼界,顶级围棋手柯洁落下的眼泪、微博的叹息,都是对AlphaGo这颗强劲“大脑”的赞叹。然而,让人工智能走出娱乐和游戏,真正进入人类的...

3695
来自专栏灯塔大数据

初识机器学习和人工智能

近日,英国皇家学会(Royal Society)发布了一份题为《机器学习:能通过样本进行学习的计算机的力量与希望(Machinelearning: the p...

3538

扫码关注云+社区