在AI眼前“隐身”,谷歌研究人员使用特制贴纸迷住AI

AiTechYun

编辑:yuxiangyu

虽然机器学习系统的能力很强,但他们并不聪明,因为他们缺乏常识。研究人员利用这一点对图像识别系统进行了一次精彩的攻击。他们对系统使用特殊印制的贴纸,这个贴纸会吸引AI的注意力,以至于让AI完全无法看到其他任何东西。(为什么我会觉得这个贴纸可能很快会成为流行配饰)

计算机视觉是一个非常复杂的问题,只有通过认知捷径的方式,人类才能正确地识别看到的东西,所以计算机要做同样的事情。

这些AI系统所采用的捷径之一就是不会为每个像素指定相同的重要性。假设有一张房子的照片,房子背后有天空,前面有一小块草地。一些基本的规则使计算机明白,尽管天空和草地都存在,但这不是“天空”或“草地”的图像。这样它考虑了这些背景,然后花费更多的时间来分析中间的形状。

谷歌的研究人员想知道:如果你破坏这个捷径,让计算机忽视这个房子,把注意力集中在他们选择的东西上会怎样?

他们通过训练一个对抗系统来创建一个分散目标系统注意力的小圆圈,在圈内尝试许多颜色、形状和大小的配置,并观察哪些特征会引起图像识别器的注意。AI已经学会观察的特定曲线,指出除背景以外的其他颜色的组合等等。

最终出现的效果如下:

把它放在系统已知的另一个物体旁边,例如香蕉,它会马上忘记香蕉,并认为这张图片是漩涡。图像中的名称表示创建贴纸并将其与现有图像合并的不同方法。

这个贴纸是基于特定系统而不是基于特定图像做出的,也就是说,无论图像识别系统在看什么,这个贴纸都会干扰它。

我们可以利用它做些什么?如果在你的衣服或包上粘上几个,也许机场或警察机构的图像分类器会分心,以至于不会记录你的存在。不过,如果你想实现这一点,你必须知道它上面运行着什么系统,然后测试几千种不同的贴纸图案才行。所以在这里我们只是提出了一种可能性。

以往欺骗计算机视觉系统的尝试通常依赖于反复对图像进行小的改动,以确定是否能在一些战略性的位置上改变少量像素来达成目的(例如将乌龟错认成枪支的研究)。但是这些研究人员称之为强的、高度区域化的“扰动”构成了另一个非常有趣的威胁。

我们的攻击会在现实世界中起作用,它可以伪装成无害的贴纸。这些结果表明可以离线创建的攻击,然后广泛共享…

即使人类能够注意到这些贴纸,他们也很难知道这个贴纸的作用,而是将其视为一种艺术形式。所以,这项工作表明,只注重防范小扰动是不够的,因为大的局部扰动也可能破坏分类器。

论文地址:https://arxiv.org/pdf/1712.09665.pdf

本文来自企鹅号 - ATYUN订阅号媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PaddlePaddle

工业应用|AI语音技术应用场景及模型库概览

近年来AI技术发展速度迅猛,深入到生活中的方方面面,从手机APP到车载语音系统。今天小PP和大家一起仔细了解,AI技术中的语音技术在各场景的应用,并奉上对应模型...

17710
来自专栏AI科技评论

学界 | 构造一个和人类智能水平相当的人工智能,需要从哪方面努力?

AI科技评论按:本文由图普科技工程师翻译自《Methodology of Human-Level Artificial Intelligence Researc...

287110
来自专栏机器学习算法工程师

详解数据挖掘与机器学习的区别与联系

0、为什么写这篇博文   最近有很多刚入门AI领域的小伙伴问我:数据挖掘与机器学习之间的区别与联系。为了不每次都给他们长篇大论的解释,故此在网上整理了一些资料,...

354110
来自专栏ATYUN订阅号

语音识别技术里程碑:微软识别错误率降至5.1%

8月21日,微软宣布该公司的语音识别系统的错误率已经降至5.1%,这是目前为止错误率最低的,已经超过了去年由微软AI研究团队所创造的5.9%的成绩。 这两项研究...

39760
来自专栏数据科学与人工智能

数据科学工作流程

[导读]我们做出数据产品的过程一般是比较规范化的,通常称这个过程为:方法论、产品生命周期或者工作流程。当然数据科学的工作也有很多选择,就像没有一套通用的开发软件...

34070
来自专栏hadoop学习笔记

机器学习的趋势和人工智能的未来

每家公司现在是一个数据公司,在一定范围能够使用机器学习在云中部署智能应用程序,这归功于三个机器学习的趋势:数据飞轮,算法经济,和智能云托管。

9310
来自专栏BestSDK

大数据解密用户画像,为何老用户利润贡献是新用户的16倍?

大家经常听到一个词,叫做“画像”,结合具体对象就是:“用户画像”、“商品画像”、“产品画像”、“资产画像”……特别是大数据时代下,在实际企业中,利用大数据进行“...

32350
来自专栏云计算D1net

在云端开展深度学习正逢其时

如今,机器学习仍然很流行,而其子集深度学习可能会为企业带来更多的价值。 ? 云计算技术盛会AWS re:Invent 2017即将开幕,人们开始预测AWS公司...

34560
来自专栏机器学习算法与Python学习

微视频 | 人工智能会抢走我们的饭碗吗?

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第二 【Python】:排名第三 【算法】:排名第四 ?

30980
来自专栏灯塔大数据

TA是什么“鬼”?一个优秀数据科学家的主要构成特点

? 根据三位作者的咨询和研究经验,以及与许多大数据和分析主题的公司合作,了解一个良好的数据科学家具有哪些主要特征。 大数据分析已经满天都是,IBM项目,每天...

30490

扫码关注云+社区

领取腾讯云代金券