学界 | Ian Goodfellow牵头举办NIPS机器学习对抗赛,提升系统鲁棒性

via pulse2

每年年底举办的 NIPS 都是令学者为之一振的顶级学术盛会。AI 科技评论了解到,今年首次增加了一个新议程,即「NIPS 2017 Competition Track」。本次竞赛活动从 23 个候选提案中选择了五个数据驱动的比赛项目,覆盖领域广泛。而今天谷歌大脑研究员 Ian Goodfellow 在 Twitter 上强烈推荐了他牵头组织的 Adversarial Attacks and Defences(对抗攻击防御)比赛。而 Nicolas Papernot 也倾情转发支持。

这一比赛由 Alexey Kurakin、Ian Goodfellow 和 Samy Bengio 一同举办。目前大多数现有的机器学习分类器的鲁棒性很差,容易受对抗样本的影响。样本经过轻微修改后,可能就会让机器学习分类器受到迷惑,并进行错误的分类。这些修改可能人类几乎无法看出区别,这可能会对机器学习分类器的安全性产生不利影响。因此,这一比赛主要也是为了加快研究机器学习分类器的对抗样本,提升其鲁棒性。

Kaggle 前段时间被谷歌收购,因此这一比赛也自然而然在 Kaggle 上发布。虽然是在 Kaggle 上发布具体介绍,但这一比赛依然要遵循 NIPS 2017 Competition Track 的相关规定。

比赛的全名为 Non-targeted Adversarial Attack,简介是「Imperceptibly transform images in ways that fool classification models」,也就是说,需要以欺骗分类模型的方式将图片巧妙地移花接木。具体而言,分为三个竞赛项目:

  • Non-targeted Adversarial Attack,竞赛者所提交的系统需要对给定的图片进行处理,使得某个通用机器学习分类器无法识别。
  • Targeted Adversarial Attack,竞赛者所提交的系统需要对给定的图片进行处理,让某个通用机器学习分类器能成功识别图像属于特定类别。
  • Defense Against Adversarial Attack,竞赛者需要构建一个机器学习分类器,拥有足够的鲁棒性使之能正确鉴别对抗性的图像。

比赛将在给定的数据集中进行测试,并且希望参赛者能针对数据集中的每张图像生成对应的对抗样本。所有生成的图片将在所有提交的防御性分类器中进行测试,如果分类器分类错误,则对方得一分。而每次攻击都会依照下面的公式进行计算,分数越高,则说明攻击系统的效果越好。

在本次比赛中,用于攻击与防御所用的分类任务都是源于 ImageNet。谷歌希望参赛者也能构建强大的 ImageNet 分类器,并且能抵御对抗攻击。

此外,为了让竞争更加有趣,而且避免公共数据的过度使用,将采用 DEV 与 TEST 数据集对结果进行评估与测试。DEV 数据集涵盖 1000 张图像,而 TEST 数据集目前保密,将在比赛结束后公开。

AI 科技评论了解到,8 月 1 日、9 月 1 日、9 月 15 日将分别启动三轮开发进程,并在 10 月 1 日截止提交。在 Kaggle 页面上包含了参赛的详细信息,感兴趣的同学朋友们可以密切关注这一赛事。

NIPS 介绍页面:https://nips.cc/Conferences/2017/CompetitionTrack

Kaggle 介绍页面:https://www.kaggle.com/c/nips-2017-non-targeted-adversarial-attack#description,AI 科技评论整理

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-07-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

Ian Goodfellow最新论文:神经网络无比脆弱,对抗攻击重新编程

【新智元导读】对抗攻击通常会使得神经网络分类错误,但谷歌大脑团队的Ian Goodfellow 等人的新研究提出一个更加复杂的攻击目标:对神经网络重新编程,诱导...

990
来自专栏从流域到海域

应用自然语言处理(NLP)解码电影

原文地址:https://dzone.com/articles/applying-nlp-to-decode-an-indian-classical-movie...

2488
来自专栏机器之心

计算语言顶会ACL 2018最佳论文公布!这些大学与研究员榜上有名

1. Finding syntax in human encephalography with beam search(尚未公开)

1270
来自专栏AI科技大本营的专栏

资源 | 8张思维导图帮你梳理深度学习&机器学习多个知识点

整理 | suiling 本文是对作者@Daniel Martinez(https://twitter.com/danielmartinezf)在GitHub上...

3795
来自专栏量化投资与机器学习

神经网络算法交易:波动预测与定制损失函数

编辑部翻译:mchoi 【系列1】用于算法交易的神经网络基于多变量时间序列(点击标题阅读) 本次推文中我们会考虑回归预测问题,为它设计和检验一个新的损失函数,...

2439
来自专栏机器学习算法工程师

一种简单有效的网络结构搜索

这篇文章主要介绍了一种方法用于解决网络结构搜索中,搜索空间过大且训练时间过长,算力要求过高的问题。运用了爬山算法来搜索优秀的网络结构,主要是用了一个很nb的技术...

1251
来自专栏大数据智能实战

python3 下 tensorflow slim inceptionV4 问题修正与测试

自从残差网络出来之后,好多人就想着能不能对模型进行结合测试一下。Google Research的Inception模型和Microsoft Research的...

2786
来自专栏数值分析与有限元编程

计算π的值

圆周率π是一个无理数,没有任何一个精确公式能够计算π值,π的计算只能采用近似算法。国际公认采用蒙特卡洛方法计算。蒙特卡洛(Monte Carlo)方法,又称随机...

3937
来自专栏机器学习人工学weekly

机器学习人工学weekly-2018/4/21

Artificial Intelligence — The Revolution Hasn’t Happened Yet

1282
来自专栏专知

【干货】2017年深度学习必读31篇论文(附论文下载地址)

摘要: 2017年即将擦肩而过,Kloud Strife在其博客上盘点了今年最值得关注的有关深度学习的论文,包括架构/模型、生成模型、强化学习、SGD & 优化...

3557

扫码关注云+社区

领取腾讯云代金券