专栏首页AI研习社用验证机制加强神经网络的能力:研究者提出机器学习防御措施 | 2分钟读论文

用验证机制加强神经网络的能力:研究者提出机器学习防御措施 | 2分钟读论文

来源 / Two Minute Papers

翻译 / 洪振亚

校对 / 囧囧

整理 / 雷锋字幕组

本期论文

Reluplex: An Efficient SMT Solver for Verifying

Deep Neural Network

Reluplex:验证深度神经网络的有效SMT方案

几年前,我们见证了神经网络和学习算法的快速兴起。人工智能时代正在到来,探索过程中也不可避免出现一些失败的尝试,有些失败的项目往往有迹可循,因为算法足够简单,我们可以以管窥豹,做出合理的猜想。

但是,如果涉及到深层神经网络的问题,就很难讲了。比如,早期我们所提的pix2pix技术,很多情况下看起来完全可以零失误完成,但在还是有很多失败案例。

Twitter上出现的各种失败案例

这不仅因为神经网络在面对虚假输入时没有鉴别能力,很可能会误读、误识,更因为神经网络没有对抗性,可能随时被颠覆,也就是说,我们分分钟可以训练一种新的神经网络来颠覆原有的学习系统,让它错乱崩溃。

给汽车加点噪声 深度神经网络还以为是鸵鸟

就目前来说,作者们认为现有防御措施的限制在于,缺乏对机器学习模型的验证机制。

测试执行脚本

本期论文认为,神经网络需要具备验证关键任务的能力,探讨了几类保护措施,让机器学习模型能够真正起作用。视频中还介绍了论文相关的小实验,实验将一个具有神经网络的小型防撞飞机作为研究对象,来呈现学习算法在关键任务系统中运作机制和原理。

▷ 观看论文解读大概需要 4 分钟

学霸们还请自行阅读论文以获得更多细节

论文原址

https://arxiv.org/pdf/1702.01135.pdf

本文分享自微信公众号 - AI研习社(okweiwu),作者:雷锋字幕组

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-09-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 博客 | 闲话神经网络

    一篇杂文,把之前收集的神经网络点点滴滴串联起来,便于理解,如有不当,麻烦及时指出。

    AI研习社
  • 【NLP/AI算法面试必备】学习NLP/AI,必须深入理解“神经网络及其优化问题”

    一、神经网络基础和前馈神经网络 1、神经网络中的激活函数:对比ReLU与Sigmoid、Tanh的优缺点?ReLU有哪些变种? 2、神经网络结构哪几种?各自都有...

    AI研习社
  • 传统算法如何转化成神经网络?| 回顾

    在当今AI时代中,CNN和RNN都被广泛关注,并且有很多相关讨论,而最基础的神经网络DNN,它的研究和曝光度却相对较少。DNN是所有其它神经网络的基础,所以对它...

    AI研习社
  • 神经网络开始放飞自我!都是因为架构搜索新算法

    雷锋网:雷锋字幕组出品系列短视频《 2 分钟论文 》,带大家用碎片时间阅览前沿技术,了解 AI 领域的最新研究成果。 雷锋网本期论文:结合分层表示的高级架构搜索...

    企鹅号小编
  • 影响堪比登月!谷歌等探索深度学习新理论蓝图,让神经网络更深更窄

    现在,谷歌大脑、FAIR、德州农工大学等的数学家们试图深究神经网络的理论基础,开始揭示神经网络的形式如何影响其功能。

    崔庆才
  • 重磅! | 神经网络浅讲:从神经元到深度学习

    神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向–深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法,同时也可以更好地帮助你理解深度...

    用户1332428
  • 神经网络浅讲:从神经元到深度学习

    神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向--深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法,同时也可以更好地帮助你理解深...

    Java3y
  • 干货 | 2 分钟论文:神经网络开始自我学习,说是用了架构搜索新算法

    来源 / Two Minute Papers 翻译 / 严谨文 校对 / 凡江 整理 / 雷锋字幕组 本期论文:结合分层表示的高级架构搜索 Hierarchic...

    AI科技评论
  • 零基础入门神经网络:从原理、主要类型到行业应用

    原作 Jay Shah Root 编译自 Jay Shah寄几的博客 量子位 出品 | 公众号 QbitAI 最近,神经网络这个词特别火,吸引不少眼球。但是神经...

    量子位
  • 入门 | 关于神经网络:你需要知道这些

    神经网络(NN)几乎可以在每个领域帮助我们用创造性的方式解决问题。本文将介绍神经网络的相关知识。读后你将对神经网络有个大概了解,它是如何工作的?如何创建神经网络...

    昱良

扫码关注云+社区

领取腾讯云代金券