周二
随着人工智能、图像识别技术的日渐成熟,被广泛应用于各种智能终端设备、应用程序甚至是各大生活场景中。
近日,谷歌研究人员新开发了一款自带迷幻剂属性的小贴纸,它可将任何物品都“变身”烤面包机。
据外媒报道,这款小贴纸自带蠢萌属性,只要将小贴纸放在任何一张图片上,深度学习系统就会傻乎乎地把毫无关联的图像分辨为一部烤面包机。
或者把它贴在机器上,就能把两个滑雪的人辨识为一只狗,把一个棒球看成是一杯意式咖啡,又例如把一只乌龟误认为是一把步枪。
谷歌深度学习研究团队Google Brain表示,这款小贴纸也被称之为“对抗性补丁”,与神经网络攻击有关。
背后的原理就是深度学习模型其实每次只能探测到图像中最“显眼”的那个物品,通过生成远远比真实物体显眼得多的图像输入(从而欺骗了模型),从而让机器学习算法产生视觉错误。
研究论文显示,这款小贴纸是具备“场景无关性”特性。
这意味着任何一个“对光照条件、相机角度、被攻击的分类器类型或甚至场景中的其他事物没有事先了解”的人都可以利用这张贴纸,去实行对图像识别算法的攻击。
需要注意的是,这款小贴纸只是一个小恶作剧,不能盲目的、不考虑安全而过度使用,否则这种操作简单的方法也有可能会造成严重的破坏。
嗯,就这些~
初心不改,依然是你爱的喂diu
领取专属 10元无门槛券
私享最新 技术干货