一块小贴纸变“隐身衣”,AI:你不是人

作者 | bie管我叫啥

现在,一张小小的贴纸足以欺骗AI系统。

简单的贴纸可以使你在AI面前“隐身”,就像身穿隐形衣,让AI无人可识。

目前人工智能监控的兴起令人极为担忧,集体追踪和识别公民的能力可能意味着公众匿名性的终结。

但是,正如研究人员一再表明的那样,有很多方法可以欺骗这些系统。

在比利时KU Leuven大学的一组工程师发布的论文中,展示了这些简单的印刷图案如何欺骗AI系统,让系统无法识别图像中的人物。

如果你打印出一个特别设计出的贴纸并遮住自己身体的一部分,从AI的角度来看,你就“不算是人”。

如上图所示,AI系统可以识别正常的人或椅子,但它无法识别用一块贴纸遮挡自己的人,当把贴纸移走时,系统瞬间识别出此人,将贴纸换到另一人身上时,系统依旧无法识别。

正如研究人员写道:“我们相信,如果我们将这种技术与精致的服装模拟结合起来,我们就可以设计出一种T恤印花,可以让一个人对自动监控相机不可见。”而这也是著名的威廉·吉布森(William Gibson)科幻小说“Zero History”中的重要情节设定。

这可能听起来很不可思议,但它实际上是AI世界中一个众所周知的现象。这类模式被称为对抗性示例,它们利用计算机视觉系统脆弱的智能来欺骗它们,让它们看不到存在的东西。

在过去,对抗性示例被用来欺骗面部识别系统。比如,只需佩戴一副特殊的眼镜,AI就会认为你是女演员Milla Jovovich。现在它们变得更简单了,只需要贴纸,打印到3D物体上,甚至被用来制作可以愚弄算法的艺术品。

许多研究人员警告说,对抗性示例具有潜在危险性。例如,它们可以用来欺骗自动驾驶汽车,或者欺骗用于识别疾病的医疗AI视觉系统。这可以用于医疗欺诈,甚至达到故意造成伤害的目的。

不过,这种对抗性补丁有一个严重的局限性,它只能欺骗一个名为YOLOv2的特定算法。它不适用于谷歌或其他科技公司开发的计算机视觉系统,但研究人员正在研究更灵活的解决方案。

这意味着至少目前,让你对所有监控系统“隐身”的T恤的想法仍然停留在科幻小说的领域。随着AI监控在全球部署,越来越多的人可能渴望重新获得匿名性,对抗性示例可能成为下一个研究潮流。

End

文章推荐

专治BUG

据说在看的没有BUG

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190424A0G92A00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券