CAAD 对抗样本攻防赛报名启动，总奖金十万美元等待清空

2018 年，GeekPwn 联合谷歌大脑的 Alexey Kurakin、Ian Goodfellow 以及美国加州大学伯克利分校计算机系教授宋晓冬共同发起“2018 对抗样本攻防赛”（Competition on Adversarial Attacks and Defenses 2018）简称 CAAD2018。

本届比赛聚焦针对图像分类器的攻防技术，鼓励研究者在攻防较量的过程中大开脑洞、创新实现手段，为可能出现在现实世界中的攻击与防御提供具备价值的参考、预警乃至解决方案。未来，机器学习与 AI 系统将变得更加普及，率先发现机器学习安全漏洞并进行防御将是影响未来乃至人类生存的重要课题。

CAAD2018 规则说明

2014 年”生成式对抗网络“的发明者 Ian Goodfellow 发表论文显示图像分类器错误地将"熊猫"看成”长臂猿“。自那以后，AI 安全性遭受质疑，对抗样本攻击迅速成为热门话题。

研究者已经发现，大多数基于机器学习的分类器对于对抗样本是高度敏感的。对抗样本，是对原输入样本进行非常小的修改但是使分类器进行错误分类的样本。在绝大多数时候，这些小的修改并不会使人注意，但会使得分类器出错。

三大项目

CAAD2018 分为三个独立项目，分别是“定向对抗攻击”、“非定向对抗攻击”以及“对抗防御”。

定向对抗攻击：参赛目标是目标是轻微修改原图像，使得未知分类器将修改后的图像错误分类到指定的类。

非定向对抗攻击：参赛目标是轻微修改原图像，使得未知分类器将修改后的图像错误分类。

对抗防御：参赛目标是生成基于机器学习的分类器，对对抗样本有强的防御力，也即能够正确地把对抗样本进行分类。

在不同项目中，参赛者可以通过提交相对应程序来完成指定的任务。

在 7 月 10 日提交截止之后，评审团会首先使用基准攻击和防御进行预评估，在三个项目中各挑选前 40 名（如果第 40 名处有比分非常接近的情况，比赛组委将再挑出最多 10 名），三项的前 40 名会让各个攻击对防御进行单循环对抗来终评，计算总的分数并决出名次。

评审委员会及顾问

CAAD2018 评审及顾问成员分别来自谷歌大脑、加州大学伯克利分校、清华大学以及极棒实验室，由顶级学术专家、业界权威人士构成。

评审委员会

Alexey Kurakin

谷歌大脑资深研发工程师

宋晓冬

加州大学伯克利分校计算机系教授

王海兵

极棒实验室总监

顾问团

Ian Goodfellow

谷歌大脑研究科学家

“生成式对抗网络”发明者

朱军

清华大学副教授

智能技术与系统国家重点实验室副主任

日程安排

· 开发轮

2018 年 5 月 10 日 – 官网开始接受报名提交

2018 年 6 月 10 日 – 第 1 次开发轮（选择性参加）

2018 年 6 月 25 日 – 第 2 次开发轮（选择性参加）

· 2018 年 7 月 10 日 – 提交截止，进行最终评估

· 2018 年 7 月 31 日 – 提交说明文档时间截止

· 2018 年 8 月 – GeekPwn 拉斯维加斯站现场展示并举行颁奖典礼

奖金评定

CAAD2018 的三个项目，分别取前五名颁发奖金：

第一名人民币100,000元

第二名人民币55,000元

第三名人民币35,000元

第四-五名人民币6,000元

另外，根据选手提交的说明文档，最高可另得技术奖人民币6,000元。