学界 | Ian Goodfellow牵头举办NIPS机器学习对抗赛,提升系统鲁棒性

via pulse2

每年年底举办的 NIPS 都是令学者为之一振的顶级学术盛会。AI 科技评论了解到,今年首次增加了一个新议程,即「NIPS 2017 Competition Track」。本次竞赛活动从 23 个候选提案中选择了五个数据驱动的比赛项目,覆盖领域广泛。而今天谷歌大脑研究员 Ian Goodfellow 在 Twitter 上强烈推荐了他牵头组织的 Adversarial Attacks and Defences(对抗攻击防御)比赛。而 Nicolas Papernot 也倾情转发支持。

这一比赛由 Alexey Kurakin、Ian Goodfellow 和 Samy Bengio 一同举办。目前大多数现有的机器学习分类器的鲁棒性很差,容易受对抗样本的影响。样本经过轻微修改后,可能就会让机器学习分类器受到迷惑,并进行错误的分类。这些修改可能人类几乎无法看出区别,这可能会对机器学习分类器的安全性产生不利影响。因此,这一比赛主要也是为了加快研究机器学习分类器的对抗样本,提升其鲁棒性。

Kaggle 前段时间被谷歌收购,因此这一比赛也自然而然在 Kaggle 上发布。虽然是在 Kaggle 上发布具体介绍,但这一比赛依然要遵循 NIPS 2017 Competition Track 的相关规定。

比赛的全名为 Non-targeted Adversarial Attack,简介是「Imperceptibly transform images in ways that fool classification models」,也就是说,需要以欺骗分类模型的方式将图片巧妙地移花接木。具体而言,分为三个竞赛项目:

  • Non-targeted Adversarial Attack,竞赛者所提交的系统需要对给定的图片进行处理,使得某个通用机器学习分类器无法识别。
  • Targeted Adversarial Attack,竞赛者所提交的系统需要对给定的图片进行处理,让某个通用机器学习分类器能成功识别图像属于特定类别。
  • Defense Against Adversarial Attack,竞赛者需要构建一个机器学习分类器,拥有足够的鲁棒性使之能正确鉴别对抗性的图像。

比赛将在给定的数据集中进行测试,并且希望参赛者能针对数据集中的每张图像生成对应的对抗样本。所有生成的图片将在所有提交的防御性分类器中进行测试,如果分类器分类错误,则对方得一分。而每次攻击都会依照下面的公式进行计算,分数越高,则说明攻击系统的效果越好。

在本次比赛中,用于攻击与防御所用的分类任务都是源于 ImageNet。谷歌希望参赛者也能构建强大的 ImageNet 分类器,并且能抵御对抗攻击。

此外,为了让竞争更加有趣,而且避免公共数据的过度使用,将采用 DEV 与 TEST 数据集对结果进行评估与测试。DEV 数据集涵盖 1000 张图像,而 TEST 数据集目前保密,将在比赛结束后公开。

AI 科技评论了解到,8 月 1 日、9 月 1 日、9 月 15 日将分别启动三轮开发进程,并在 10 月 1 日截止提交。在 Kaggle 页面上包含了参赛的详细信息,感兴趣的同学朋友们可以密切关注这一赛事。

NIPS 介绍页面:https://nips.cc/Conferences/2017/CompetitionTrack

Kaggle 介绍页面:https://www.kaggle.com/c/nips-2017-non-targeted-adversarial-attack#description,AI 科技评论整理

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2017-07-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

关于深度学习,Yann LeCun给大学生的十四条建议

1083
来自专栏CDA数据分析师

22本数据分析、挖掘的好书推荐—绝对干货,不看后悔!

1. 深入浅出数据分析 这书挺简单的,基本的内容都涉及了,说得也比较清楚,最后谈到了R是大加分。 难易程度:非常易。 2.啤酒与尿布 通过案例来说事情,而且是...

1955
来自专栏数据派THU

【独家】关于深度学习,Yann LeCun给大学生的十四条建议

作者:Yann LeCun 翻译:白静 校对:丁楠雅 本文长度为800字,建议阅读2分钟 本文是人工智能大师Yann LeCun在问答平台Quora上对问题“W...

1788
来自专栏量子位

比男友更了解你的穿搭喜好,这个模型可以陪你挑衣服 | 论文

安妮 编译自 arXiv 量子位 出品 | 公众号 QbitAI 购物网站总想通过推荐系统让你多买几件衣服。 但穿搭可是个不太好把控的东西,复杂的服装风格不仅让...

33011
来自专栏web前端教室

前端学习资料太多,也不是特别的好。

学习资料这东西肯定是有用的,不管学什么。。但这东西太多了,其实反而有害。因为太多了你就选择困难了,今天看看这个,明天看看那个。你好几百G的视频,音频,文本,pd...

1706
来自专栏AI科技大本营的专栏

从1400篇机器学习文章中精选出Top 10,帮你找找上班的感觉!

翻译 | AI科技大本营 参与 | 刘畅 最近,经常为AI学习者提供优质学习资源的Mybridge对近1400篇机器学习文章进行了排名,挑选了10篇有助于提升你...

3106
来自专栏Java学习网

最牛的编码套路

最牛B的编码套路 最近,我大量阅读了Steve Yegge的文章。其中有一篇叫“Practicing Programming”(练习编程),写成于2005年,读...

2219
来自专栏AI研习社

Github 「stars」 平均 3558,最棒的 30 个机器学习实例

在过去的一年里,我们比较了近 8800 个机器学习开源项目选出了其中最棒的 30 个 (几率只有 0.3%)。 这是一个非常具有竞争力的名单,名单是从 2017...

36112
来自专栏量子位

深度学习究竟怎么入门?两位Google大神掀起剑气之争

作为一名 华山派新弟子 深度学习新手,该先学会用框架快速搭出神经网络,用到实际问题中去,还是该先练习用Python基本徒手搭建模型,在小数据集上训练,了解它们的...

602
来自专栏鸿的学习笔记

使用python探知一个故事的大意(上)

2. Define the problem (outcomes, technicalrequirements)

672

扫描关注云+社区