用验证机制加强神经网络的能力:研究者提出机器学习防御措施 | 2分钟读论文

来源 / Two Minute Papers

翻译 / 洪振亚

校对 / 囧囧

整理 / 雷锋字幕组

本期论文

Reluplex: An Efficient SMT Solver for Verifying

Deep Neural Network

Reluplex:验证深度神经网络的有效SMT方案

几年前,我们见证了神经网络和学习算法的快速兴起。人工智能时代正在到来,探索过程中也不可避免出现一些失败的尝试,有些失败的项目往往有迹可循,因为算法足够简单,我们可以以管窥豹,做出合理的猜想。

但是,如果涉及到深层神经网络的问题,就很难讲了。比如,早期我们所提的pix2pix技术,很多情况下看起来完全可以零失误完成,但在还是有很多失败案例。

Twitter上出现的各种失败案例

这不仅因为神经网络在面对虚假输入时没有鉴别能力,很可能会误读、误识,更因为神经网络没有对抗性,可能随时被颠覆,也就是说,我们分分钟可以训练一种新的神经网络来颠覆原有的学习系统,让它错乱崩溃。

给汽车加点噪声 深度神经网络还以为是鸵鸟

就目前来说,作者们认为现有防御措施的限制在于,缺乏对机器学习模型的验证机制。

测试执行脚本

本期论文认为,神经网络需要具备验证关键任务的能力,探讨了几类保护措施,让机器学习模型能够真正起作用。视频中还介绍了论文相关的小实验,实验将一个具有神经网络的小型防撞飞机作为研究对象,来呈现学习算法在关键任务系统中运作机制和原理。

▷ 观看论文解读大概需要 4 分钟

学霸们还请自行阅读论文以获得更多细节

论文原址

https://arxiv.org/pdf/1702.01135.pdf

原文发布于微信公众号 - AI研习社(okweiwu)

原文发表时间:2017-09-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PaddlePaddle

GITCHAT系列2:个性化推荐

大家好,我是来自PaddlePaddle开源社区的李钊(@livc),目前是一名大三学生。我曾经在手机百度实习,参与推荐算法和反作弊的研发工作,目前是IDL的一...

4078
来自专栏机器之心

学界 | DeepMind论文三连发:如何在仿真环境中生成灵活行为

选自DeepMind 机器之心编译 参与:smith、黄小天、路雪 一只猴子在树林之间敏捷而灵活地跳跃穿梭,或者一名足球运动员快速带球过人、劲射得分,这些表现皆...

3346
来自专栏PPV课数据科学社区

不可不知 | 有关文本挖掘的14个概念

版权声明 作者:杜尔森·德伦(Dursun Delen) 来源:《大数据掘金 挖掘商业世界中的数据价值》,中国人民大学出版社出版 本文由数据之王(ID:shuj...

3498
来自专栏量子位

这里是强化学习入门,的入门 | 绝对新手友好

强化学习是机器学习里面非常重要的一个派别。智能体 (agent) 会不断执行一些操作,通过结果来学习,在不同的环境中分别应该采取怎样的行动。

1082
来自专栏ATYUN订阅号

IBM提出深度学习模型水印方法,可防止侵权

如果机器学习模型可以在照片,电影,音乐和手稿添加水印以表明所有权,防止知识产权窃取,并防止攻击者损害其完整性,该会如何呢?IBM正在申请新的专利,他们可以做到这...

1722
来自专栏AI科技评论

动态丨情人节降至,百度推出基于 AI 的魅力值测评和诗歌自动生成主题功能

百度搜索在近日推出了基于人工智能技术的“情人节用脸撩,开启桃花运”功能,迎接情人节。 用户在百度搜索 App 中需用语音说一句“开启桃花运”即可进入主题页面。该...

3584
来自专栏大数据文摘

资源 | 从医疗语音到灾难响应,这八大优质数据集快抱走

1563
来自专栏新智元

【重磅】谷歌发布Open Images图片数据集,包含9百万标注图片

AI World 2016世界人工智能大会 ❶ 业界领袖回溯60年AI历史,全球对话人工智能未来挑战,权威发布2016世界人工智能名人堂及中国人工智能产业发展报...

3735
来自专栏机器人网

21个你必懂的数据科学面试问答

KDnuggets编辑为20个辨别真伪数据科学家的问题准备了答案,包括什么是正规化、我们喜爱的数据科学家、模型验证等等。

981
来自专栏MixLab科技+设计实验室

Pix2Pix与人工智能做设计

设计是一个创造的过程,目前大部分的设计类产品大多是基于模版的,外加一些图像匹配的处理,做出来的设计,缺少创造的成分,更多的是预设的结果。 基于深度学习算法,是否...

4579

扫码关注云+社区