大家好我是漂亮可爱的小小编,快乐伴随生活,资讯开拓视界,笑谈新鲜资讯,品味人生!各位读者老爷好吖,我是你们最爱的小小编,欢迎来到小小编的最新资讯圣地,小小编陪大家一起来品尝了解最新的资讯!
谷歌的惊人研究:一组图像迫使神经网络执行其他任务
夏伊法从凹陷的寺庙石英|公共QbitAI
记得那些认识熊猫是猩猩的人,乌龟是枪,而枪是直升机的算法?
他们遇到了一个叫做“敌对攻击”的敌人。每次敌人出现时,它都会使图像识别算法不堪重负。
现在,更加生气和生病。
谷歌脑部三名研究人员Gamaleldin F. Elsayed,Ian Goodfellow,Jascha Sohl-Dickstein的最新论文展示了一种新型的反攻击,一种人工智能从未见过的强大敌人。
他们说,对抗性攻击不仅允许图像识别模型识别错误的地图,而且还重新编程受攻击的模型,让他们放弃他们的任务并做其他攻击者指定的事情。他们把这种被称为“对抗任务”的东西称为日本。
即使模型根本没有这种技能,也没关系。所需要的只是向测试图像添加一些抗干扰信息。
例如,让ImageNet分类器更改为几个方块。
实现的过程并不复杂,总共需要三个步骤。
...
在映射建立后,表示对抗任务的图像嵌入在对抗图像的中间,并获得用于攻击神经网络的对抗图像。
接下来,让对抗图片和目标模型相遇。两次见面后,目标模型放弃了原始图像识别任务,地图上只计算了几个正方形。
重新分配任务也可能比几个方格更复杂。例如,让ImageNet分类器认为它是仅识别手写数字的MNIST分类器。
用于完成此任务的对抗图像生长在上图中。
同样的方法也可以使ImageNet分类器成为CIFAR-10分类器。他们有毒手的受害者有六个ImageNet图像识别模型,包括三个Inception变种和三个Resnet变种。
幸运的是,我没有让神经网络做任何可怕的事情。
......
Elsayed等。该文件还指出,这些结果首次证明了这种攻击的可能性。
本研究的三位作者均来自Google Brain团队。
第一作者Gamaleldin F. Elsayed获得博士学位。来自哥伦比亚大学去年。目前,他实际上是Google AI Residency的成员,相当于实习或访问学生。
第二作者伊恩·古德费罗,着名。通常被称为反网络(GAN)一代的父亲,是人工智能领域的大人物。在他早年,他致力于教授神经网络来欺骗欺诈;现在,他的大部分研究都集中在对抗性攻击上,专注于欺凌神经网络。
第三作者Jascha Sohl-Dickstein获得博士学位。 2012年在伯克利。在加入谷歌之前,他是斯坦福大学的访问学者。
Jascha将他们的研究发送到Twitter并立即触发了大量用户重印。但是,只有一个人对评论发表评论。
那个人问:你什么时候发布源代码的?谢谢。
......
今天小小编就和大家聊到这里,欢迎各位读者朋友在下方评论区和小小编一起讨论哦,喜欢小小编的朋友可以点个关注,小小编会每天更新最新最热的娱乐文章哦,给无聊的你来一场及时雨,拜拜~。
领取专属 10元无门槛券
私享最新 技术干货