专栏首页大数据文摘这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!

这个AI给照片穿上“隐身衣”,让面部识别系统认不出你!

大数据文摘出品

作者:刘俊寰、Min

先来玩一个“大家来找茬”。

应该没有人不认识英国女王伊丽莎白二世吧?但如果文摘菌说,其实这不是“一个人”,你能看出左右两张照片有什么不同吗?

在肉眼看来,这大概率就是“英国女王在逃姐妹”了,但是对于人脸识别系统来说,这两张照片可是天差地别的不同。

这是芝加哥大学沙地实验室(Sand Lab)的科学家们创建的一个叫做Fawkes的工具,该工具主要使用AI技术,神不知鬼不觉地修改你的照片,以欺骗面部识别系统

那么,为啥要让机器认不出你呢?

很有必要!

如今,无处不在的人脸识别系统对于我们的隐私造成了巨大的威胁,一些技术公司在网上大规模地搜集我们在社交媒体上分享的照片,将其用于训练用于商业销售的算法,任何人都可以购买这些工具系统,在几秒钟内辨别出谁是谁。

这已经够可怕了,但更可怕的是,有人会私自用你的照片来打广告

这样的事情就真实地发生在了一位名叫Shelby Church的博主身上,她表示,自己没有签订相关的合同,也没有允许任何商业机构使用自己的照片。但正是由于如今照片的可获得性,以及缺少版权审批流程,相关的事情才得以发生。

也正是在这个背景下,芝加哥大学沙地实验室的科学家们创建了这个叫做Fawkes的工具,让机器无法认出你。

研究人员介绍道,Fawkes是以《V字仇杀队》漫画和电影中革命者戴上的Guy Fawkes面具而命名的。

这个工具,能让你的脸不是你的

Fawkes的工作方式说简单也简单,说复杂吧,也稍微有点复杂。

根据研究人员介绍,Fawkes处理后的照片不是直接让你“隐身”了,而是对照片进行一些微妙的修改,虽然肉眼看上去没什么差别,但是任何算法在扫描这些图片时,会把你看成一个完全不同的人

也就是说,从本质上讲,Fawkes处理后的照片就像给照片添加了一个隐形的面具

研究人员把这一过程称为“伪装”,它的目的是破坏面部识别系统运作所需的资源,也就是他们从社交媒体上搜罗的人脸数据库。

例如,面部识别公司Clearview AI声称已经从Facebook、YouTube和Venmo等网站收集了大约30亿张人脸图像,用来识别陌生人,但研究人员表示,如果你在网上分享的照片经过了Fawkes处理,那么算法识别的结果就是你的脸其实不是你的。

研究人员利用微软、亚马逊、旷视的人脸识别系统进行实验后,Fawkes的对抗识别取得了100%的成功

比较未使用Fawkes处理和处理后的脸部图片。图源:芝加哥大学SAND Lab

“我们正在做的就是本质上像特洛伊木马一样,使用伪装的照片来破坏未经授权的模型,让模型了解让你看起来像你而非他人的错误信息。”帮助创建Fawkes软件的芝加哥大学计算机科学教授Ben Zhao表示。

“一旦破坏完成,无论你走到哪里,或者被人看到,你都会被持续保护。”

Fawkes对于科技公司而言意味着什么?

今年早些时候,研究人员就发表了一篇关于该算法的论文。

上个月底,他们发布了Fawkes的Windows版本和Mac版本的免费软件,任何人都可以下载和使用,到目前为止,Fawkes的下载量已经超过了10万次

不少人使用Fawkes的反馈是,Fawkes的设计很粗糙,应用起来非常简单,处理图片的速度也很快,每张照片只需要几分钟,而且几乎察觉不到处理前后的差异。

此前,《纽约时报》的一篇报道指出,Fawkes的隐身效果相当明显,系统会对图片进行性别化的改变,比如女性修出一些胡子。Fawkes团队表示,更新后的算法会微妙很多。

但是,Fawkes是保护隐私的灵丹妙药吗?这是存疑的。

首先还是使用的问题。如果你决定以后上传到社交媒体上的照片都先用Fawkes处理一下,那你肯定是少数。面部识别之所以令人担忧,是因为这是一个社会趋势,解决方案也自然需要全社会共同参与,如果只有精通技术的人采用相关的屏蔽技术,那只会造成不平等和歧视。

其次,很多人脸识别算法公司很早以前就建立了人脸数据库,你无法追溯这些信息。Clearview AI的CEO Hoan Ton-That也曾这样告诉《时代周刊》,“互联网上有数十亿张未经修改的照片都放在不同的域名上,实际上,要完善像Fawkes这样的技术并大规模部署,几乎可以肯定为时已晚”。

不过,Fawkes团队对这种评价持反对态度,他们指出,虽然像Clearview AI这样的公司声称拥有数十亿张照片,但当你考虑到他们的识别对象是数亿用户时,这就不算什么了。“对于很多人来说,Clearview AI有可能只拥有非常少的公开照片,如果未来人们发布更多的隐身照片,迟早有一天,隐身照片的数量会超过未隐身的照片”。

在应用方面,Fawkes团队承认,他们的软件要想真正发挥作用,就必须更大规模的发布。出于安全考虑,他们没有计划制作网页或移动应用,但是他们也希望,像Facebook这样的公司未来可以将类似的技术整合到自己的平台上。

这项技术其实是符合大科技公司利益的,Zhao说。毕竟,像Facebook这样的公司不希望人们停止分享照片,同时他们仍然也可以从图片中收集他们需要的数据用于照片标签等,然后再将它们隐匿在公共网络上。整合这项技术可能只会对目前的用户产生很小的影响,但它可以帮助说服未来注重隐私的一代人注册这些平台。

“被如Facebook或其他大平台采用的话,对Clearview AI这类公司会产生巨大的影响,因为基本上会使他们的技术无效,以至于它作为一项服务将不再有用或在财务上变得不可行,”Zhao说,“Clearview AI这样的公司如果因不再提供相关或准确的结果而倒闭,那会是对我们工作的极大褒奖”。

相关报道:

https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes

https://onezero.medium.com/a-scammer-turned-my-face-into-a-google-ad-5d4e7c65718e

本文分享自微信公众号 - 大数据文摘(BigDataDigest),作者:文摘菌

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-08-11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 七张图告诉你移动互联网时代的商业模式

    大数据文摘
  • 夏日专属:我在西瓜里装了个口袋妖怪!

    不过,如果你去超市买水果的时候,看到一个小哥在西瓜专区站了半个小时愣是没换个姿势,你的表情可能也会和这些路人一样,认为自己怕不是遇到了一个傻子:

    大数据文摘
  • 自动驾驶新数据集发布,针对局部的渐进稀疏技术 | AI一周学术

    呜啦啦啦啦啦啦啦大家好,本周的AI Scholar Weekly栏目又和大家见面啦!

    大数据文摘
  • KEGG Drug 数据库

    kegg drug 数据库是一个药物相关信息的综合数据库,包括了在日本,美国,欧洲上市的的药物。所有在日本上市的药物,不论处方药还是非处方药,包括天然药物和中药...

    生信修炼手册
  • 零基础学编程029:程序员作图不用笔

    现在写专业文章离不开图,有些图非常复杂但非常有规律,用PowerPoint或Visio画都很吃力,这时候会编程就轻松多了,比如下面这张状态转换图: ? 再比如...

    申龙斌
  • 罗永浩的《子弹短信》

    锤子科技夏季发布会上,老罗又给我们带来了许多惊喜,其中关注度比较高的就是一款即时通讯软件了,叫子弹短信。

    猿天地
  • 基于 Tensorflow eager 的文本生成,注意力,图像注释的完整代码

    我总是发现生成和序列模型令人着迷:他们提出的问题与我们刚开始学习机器学习时常遇到的问题不同。当我第一次开始学习ML时,我学了分类和回归(和大多数人一样)。这些帮...

    AI研习社
  • AI没有偏见?它们从人类的语言中学会了性别和种族歧视

    李杉 编译自 IEEE Spectrum 量子位 出品 | 公众号 QbitAI 在性别和种族问题上,人工智能能够消除人类的偏见吗? 《科学》上发表的一项最新研...

    量子位
  • 亿级数据DB秒级平滑扩容

    数据库上层都有一个微服务,服务层记录“业务库”与“数据库实例配置”的映射关系,通过数据库连接池向数据库路由sql语句。

    java架构师
  • 大搜车知乎live中的面试题结题方法记录

    1、HTML&CSS(分别10分) 1. 一个div,宽度是100px,此时设置padding是20px,添加一个什么css属性可以让div的实际宽度仍然保持在...

    吴裕超

扫码关注云+社区

领取腾讯云代金券