谷歌的惊人研究:一组图像迫使神经网络执行其他任务

大家好我是漂亮可爱的小小编,快乐伴随生活,资讯开拓视界,笑谈新鲜资讯,品味人生!各位读者老爷好吖,我是你们最爱的小小编,欢迎来到小小编的最新资讯圣地,小小编陪大家一起来品尝了解最新的资讯!

谷歌的惊人研究:一组图像迫使神经网络执行其他任务

夏伊法从凹陷的寺庙石英|公共QbitAI

记得那些认识熊猫是猩猩的人,乌龟是枪,而枪是直升机的算法?

他们遇到了一个叫做“敌对攻击”的敌人。每次敌人出现时,它都会使图像识别算法不堪重负。

现在,更加生气和生病。

谷歌脑部三名研究人员Gamaleldin F. Elsayed,Ian Goodfellow,Jascha Sohl-Dickstein的最新论文展示了一种新型的反攻击,一种人工智能从未见过的强大敌人。

他们说,对抗性攻击不仅允许图像识别模型识别错误的地图,而且还重新编程受攻击的模型,让他们放弃他们的任务并做其他攻击者指定的事情。他们把这种被称为“对抗任务”的东西称为日本。

即使模型根本没有这种技能,也没关系。所需要的只是向测试图像添加一些抗干扰信息。

例如,让ImageNet分类器更改为几个方块。

实现的过程并不复杂,总共需要三个步骤。

...

在映射建立后,表示对抗任务的图像嵌入在对抗图像的中间,并获得用于攻击神经网络的对抗图像。

接下来,让对抗图片和目标模型相遇。两次见面后,目标模型放弃了原始图像识别任务,地图上只计算了几个正方形。

重新分配任务也可能比几个方格更复杂。例如,让ImageNet分类器认为它是仅识别手写数字的MNIST分类器。

用于完成此任务的对抗图像生长在上图中。

同样的方法也可以使ImageNet分类器成为CIFAR-10分类器。他们有毒手的受害者有六个ImageNet图像识别模型,包括三个Inception变种和三个Resnet变种。

幸运的是,我没有让神经网络做任何可怕的事情。

......

Elsayed等。该文件还指出,这些结果首次证明了这种攻击的可能性。

本研究的三位作者均来自Google Brain团队。

第一作者Gamaleldin F. Elsayed获得博士学位。来自哥伦比亚大学去年。目前,他实际上是Google AI Residency的成员,相当于实习或访问学生。

第二作者伊恩·古德费罗,着名。通常被称为反网络(GAN)一代的父亲,是人工智能领域的大人物。在他早年,他致力于教授神经网络来欺骗欺诈;现在,他的大部分研究都集中在对抗性攻击上,专注于欺凌神经网络。

第三作者Jascha Sohl-Dickstein获得博士学位。 2012年在伯克利。在加入谷歌之前,他是斯坦福大学的访问学者。

Jascha将他们的研究发送到Twitter并立即触发了大量用户重印。但是,只有一个人对评论发表评论。

那个人问:你什么时候发布源代码的?谢谢。

......

今天小小编就和大家聊到这里,欢迎各位读者朋友在下方评论区和小小编一起讨论哦,喜欢小小编的朋友可以点个关注,小小编会每天更新最新最热的娱乐文章哦,给无聊的你来一场及时雨,拜拜~。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181030A18Q8V00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券