GeekPwn对抗样本攻防赛重金招募：你有信心致盲AI吗？

谈及机器学习，「对抗样本」这个词，应该已经不再陌生。而对抗样本攻防赛，或许你还是第一次听说。

为了加快对抗样本的研究，作为全球首个关注人工智能与专业安全的平台， GeekPwn国际安全极客大赛将设置65万元总奖金，创新性的开设CAAD 对抗样本攻防赛（Competition on Adversarial Attacks and Defenses），针对图像识别领域的对抗攻击与防御研究分别设置了三个比赛项目，于今年5月正式开赛。

连人也不放过的「对抗样本」

早在 2013 年，Christian Szegedy 等人发现在数据集中故意添加细微干扰形成的输入样本，能够让判别模型输出一个错误结果。他们称之为“对抗样本”（Adversarial examples）。

通过制造对抗样本，研究者让机器从图中是熊猫的可能性大约 57.7%，变为相信图中是长臂猿的可能性高达 99.3%。这不仅仅是机器的一个错觉，但是一个非常“确定”的错觉。

2015 年，谷歌大脑人工智能科学家 Ian Goodfellow 等人发现模型的线性特征导致其对对抗样本产生了脆弱性。

尽管不同模型使用的结构不同，但是因为学习了相似的函数，造成了一种模型的对抗样本在另一个模型上也会被错误分类。

2016 年，Ian Goodfellow等人发现将图像打印出来之后对抗样本依旧具有“对抗性”，能够让分类器将小鸟照片识别成飞机。这让“对抗样本”不仅仅是纸上谈兵，在现实中也会造成影响。

2017年，加州大学伯克利分校的李博等研究者利用小贴纸在交通标识牌上进行一些微小的“装饰”，就让图像识别系统 100% 产生错误判断。试想如果这是一辆行驶中的自动驾驶汽车， 那么别有用心的人随时都能制造一起车祸。

从长远角度来看，机器学习和 AI 系统必将变得更加强大。但类似误导AI的“搅局者”可能降低人工智能的安全性。那么，从AI安全的角度来考虑，该如何防御？而目前为止一个行之有效的防守策略就是对抗训练。在不断模型训练过程中，训练样本不仅仅是干净样本，而是干净样本加上对抗样本。随着模型训练越来越多，一方面干净图片的准确率会增加，另一方面，对对抗样本的鲁棒性也会增加。

你的障眼法能否蒙蔽机器的双眼

为了找到防御这些对抗样本的最佳策略，探索着这个让人激动人心的新领域，2018年，GeekPwn联合谷歌大脑的 Alexey Kurakin、以及美国加州大学伯克利分校计算机系教授宋晓冬共同发起 CAAD 对抗样本攻防赛（Competition on Adversarial Attacks and Defenses）。

本次大赛将聚焦让机器学习分类器频频犯错的对抗样本，针对图像识别领域的对抗攻击与防御研究分别设置了三个项目，预演 AI 领域可能存在的风险并不断完善，从而推动人工智能安全健康成长。在这三项项目中，选手需要提交程序来完成相应的任务，选手可以独立报名，参加一个或多个项目。

第一个项目为非定向对抗攻击，此项比赛的目标是轻微修改原图像，使得未知分类器将修改后的图像错误分类；第二个项目为定向对抗攻击，此项比赛的目标是目标是轻微修改原图像，使得未知分类器将修改后的图像错误分类到指定的类；最后一个项目则是对抗防御，此项比赛的目标是生成基于机器学习的分类器，对对抗样本有强的防御力，也即能够正确地把对抗样本进行分类。

在这三项子项目中，参赛者需要提交程序来完成相应的任务。在提交截止之后，主办方首先使用基准攻击和防御进行预评估，在三个项目中各挑选前40名，三项的前40名会让各个攻击对防御进行单循环对抗来终评，计算总的分数并决出名次。

本次比赛三个子项目各取前5名获奖。每个分项赛第一名人民币100,000元，第二名人民币 55,000 元，第三名人民币 35,000元，第四、五名人民币 6,000元。选手可以参加多项，最高可获得30万奖金。

简单来说，GeekPwn希望以CAAD对抗样本攻防赛的形式，邀请全球顶级AI黑客，通过“对抗训练”，使机器进行更深度的“学习”，从而有效提升机器的鲁棒性，让机器学习系统安全成长。

CAAD对抗样本攻防赛将于2018年5月-2018年8月以线上的形式展开，在2018年10月24日的GeekPwn上海站上举行成果演示和颁奖仪式。报名起止时间为：2018年 5 月 10 日-8 月31 日。

同时，为了促进人工智能届和黑客界的跨界融合，期望推动人工智能领域对抗攻击技术，特别是 GAN 的传播与促进。除CAAD外，GeekPwn围绕 GAN 还举办了“GAN 掉马赛克”趣味挑战。参与者需要对图片进行以自然还原原图为目标的马赛克去除操作，去除效果及技术方法经组织方评定得分最高者将获得比特币（或2018年10月24日当日比特币等价市值现金）奖励。

去除马赛克的手段可以通过 GAN、AI 或者其他技术手段，所有对 GAN、人工智能技术、黑客技术有热情有兴趣的技术爱好者都可以参与挑战。

AI算法化身“福尔摩斯” 追寻网络世界残影

自 2016 年以来，GeekPwn 黑客大赛注意到人工智能存在的潜在安全隐患，陆续推出了 AI PWN、PWN AI、“AI 仿声验声攻防赛”等区别于传统的黑客攻防挑战的前沿比赛项目。

针对海量手机病毒层出不穷的现状，为了推动 AI 技术与移动安全防护实践的有机结合，GeekPwn设立20万奖金，联合腾讯安全反诈骗实验室推出了数据追踪挑战赛。该比赛将采用在线提交与线下测试结合的形式，以手机病毒为追踪对象，要求选手自行设计AI算法，通过对主办方提供的大量真实的手机病毒样本数据进行分析和训练，完成手机病毒识别并定位病毒所属黑产团伙的任务。

详细的参赛指引可查阅GeekPwn官网www.geekpwn.org，关注GeekPwn获取更多比赛信息。