艾玛不哭!AI引起的“换脸”问题,AI正在解决

这个年,希望艾玛·沃森(Emma Watson)过得踏实。

之前我们报道过,纸醉金迷的资本主义网站Reddit最近搞出可怕黑技术:用AI技术,把爱情动作片中的主角脸,换成想得不可得的女明星。史称:Deepfakes。

“神奇女侠”

更恐怖的是,这种原本门槛不低的技术流举动,被一些别有用心的高手民主化了,升级之后推出了平民版本“FakeApp”,号称人人可用。

门槛大为降低。只要你手握FakeApp,只需输入1到2条明星脸部的高清视频,即使你没有技术背景和编程经验,也能轻松给爱情动作片的主角换脸。

宅男之蜜糖,女星之砒霜。

艾玛·沃森更是被double kill,不仅惨遭花式换脸,而且受欢迎程度远超众星,位居爱情动作片区换脸明星No.1。比大表姐、霉霉,不知要高到哪里去。

艾玛·沃森被换脸图

不过艾玛现在可以松口气了,AI引起的问题,现在,AI正在解决。

“猫抓老鼠”

作为Deepfakes视频最主要的素材来源平台,GIF动图和短视频共享网站Gfycat,基于平台上GIF搜索数据和工具,训练了两个AI模型,让它们来发现并与换脸视频作斗争。

一个取名Project Angora,以一种长毛猫命名;另一个叫Project Maru,源于一种短毛猫。

Angora猫和Maru猫

功能上说,长毛猫Angora记忆力好、动手能力强,可以快速找到换脸视频的原版本,或者是不同版本。

之前它被用在相同视频的不同分辨率版本替换上,比如有人将“霉霉”Taylor Swift低质量的GIF上传Gfycat时,长毛猫Angora可以在网上搜索更高分辨率的版本替换它。

而短毛猫Maru则嗅觉敏锐、火眼金睛。它可以弥补长毛猫Angora的不足。

比如一些全新的没被标注过的内容,长毛猫Angora就不知如何下爪,但短毛猫Maru会区分、能标注,它可以通过霉霉的脸,为这段没被标注的“霉霉”打上Swift的标签——实际就是机器自动化标注的形式之一。

另外,如果短毛猫Maru识别到这个素材中主角跟某个名人很像,它也会发挥猫的细致,一帧帧扫“脸”,看是否有诈——毕竟再完美的换脸造假,也很难在每一帧里达到天衣无缝。

总之,长毛猫Angora和短毛猫Maru,都在用AI打造的智爪抓捕漏网“老鼠”。

防不胜防

尽管如此,目前两只猫还没法杜绝“鼠患”,不是喵团不努力,而是鼠军太强大。

长毛猫Angora记忆力好,但如果这不是一张“明星脸”,可能就会一脸懵逼。

短毛猫Maru再聪明,但如果这个视频里完全都是素人,或者确实太像,比如波多姐姐和林姐姐之类的情形呢?事情就没那么简单。

毕竟两只洋猫的核心目的是打假,并不反性。

那怎么办?

目前Gfycat采取了预防为主、防治结合的指导思想。

比如短毛猫Maru扫过素材后怀疑有假(但不能肯定这脸就是艾玛·沃森),它会先给“艾玛”蒙上脸,然后再通过身体镜头、背景等去其他地方搜查,确认是否是一个被换脸的素材。

不得不说的是,短毛猫Maru的蒙脸技术也非常高超,比如下图,就是一个很容易“丢脸”的美国知名Twitter大V。

但再次强调,两只洋猫只能打假不会反性。

假如两只猫面对的是全网独家的视频,那它们真就无能为力了。或者即便是痕迹外露的换脸视频,但涉及的当事人均来自首发,那Maru也爱莫能助。

(温馨提示:确实无能为力,千万不要以身尝试!)

当然,为了解决两支AI猫无法解决的情况,现在Gfycat还雇佣了一些人类员工作为复核,另外还使用了共享位置、上传位置等数据,去协助判断是否包含恶意伪造。

一刀切?没用

之所以复核“恶意伪造”,是因为还有一些换脸视频并无恶意,甚至还包含了不成熟的艺术小创作。

比如有人通过换脸,把特朗普的尊容换到默克尔身上,表达讽刺之情和黑色幽默,也有人给尼古拉斯凯奇搞了他不知道的角色,此外还有更多合情合法的该技术利用。

更关键的是,容许Deepfakes这样的技术公开应用,总比藏于暗网好得多,未来在广告、选举影响等方面,这个技术都可能会发挥作用——可能是负面的,但也可能是正面的。

总之,技术进步带来的问题,如果一刀切,可能会由最懒方法造成最不可控后果。

最后,AI换脸带来的影响还不止于此。

从Deepfakes出现、FakeApp走红开始,争议和讨论没有停歇,应对举措也没有停止。

对于明显侵权、造成伤害的那些换脸爱情动作视频,Facebook、Pornhub等传播平台都旗帜鲜明予以禁止,甚至一项尺度宽泛的Twitter,此次也站了出来,明令打击换脸爱情动作内容。

而“受益者”Reddit,最近也挥刀自宫,一方面关停了之前用户分享的相关内容,另一方面也明确声明:禁止传播描绘裸着露着状态的任何人的图像或视频,或者明显未经允许创建或发布的任何爱情动作行为,包括伪造的视频。

Reddit之前不太有这样禁止的传统,更何况此次Deepfakes传播带来了4万名之多的用户——用户数在一周内从15000名扩张到55000名。

另外,还有一些奇怪的应用随之发生,比如出现了一个Deepfakes.cc的网站,其中包含隐性软件,在不警告用户的情况下劫持访问者的计算能力用以挖矿。

而运行Deepfakes的机器学习er,通常比普通用户群体有更强大的CPU。

世道真怪。

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-02-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏灯塔大数据

单身数学家如何通过大数据找到真爱

? 男主角麦金利 凌 晨三点,在加州大学洛杉矶分校(UCLA)数学系大楼五楼的一个拥挤小隔间里,克里斯·麦金利(Chris McKinlay)正在为他的博士论...

29350
来自专栏企鹅号快讯

区块链项目方的努力对币价有多重要

前几天看到一篇文章(文章在这里),是关于对区块链里一些项目的代码审计,当时看到那篇文章的时候,就觉得很有意思,那篇文章发布是在12月13号,如今已过去5天,我们...

27150
来自专栏玉树芝兰

知识工作者的便携利器

工业时代,工作时间工作,休息时间休息。现在你如果能25分钟不看手机、不刷朋友圈专注读书(哪怕是小说),那就叫完成了一个番茄钟,是非常难得的成就了(保守地说,也足...

9620
来自专栏科技向令说

这才是真相,“轻点,疼”被禁却另有玄机

这两周,互联网圈被两件事刷屏,第一件事是罗辑思维与Papi酱广告拍卖,谁会是“新媒体标王”引发了热议。第二件事就是3月23日《京华时报》刊出了只有三个字“轻点,...

9230
来自专栏阮一峰的网络日志

每周分享第 16 期

影视作品经常出现,病人的心脏停止跳动,医生使用两块电极板对心脏电击。它叫除颤器(defibrillator),通过放电刺激心脏恢复跳动。

12420
来自专栏知晓程序

小游戏全面上线!我们帮你试了 10 款,好玩到停不下来

13420
来自专栏AhDung

码农录歌心得

最近喜欢上录歌,不是自己写歌编曲演奏演唱那么高段,也不是自弹自唱(这个后面可以有),也不是去录音棚交钱只管唱那么悠然。就是在自己的电脑上,翻唱一些自己喜欢的歌,...

19730
来自专栏java一日一条

码农版孔乙己

也许有一天你能改变这个世界,但是请在改变世界之前,先让自己存活下来,看到一篇文章分享一下不知道你们能从中看出什么呢

10550
来自专栏斑斓

晴窗闲谈 | 今天,你写自动化测试了吗?

一艘货轮满载着货物从港口启航,向浩瀚的大海深处破水而去。海面平静,微微皱起波浪,从容而显得宽容。然而,货轮的步履却有些蹒跚,发动机“轰轰轰”地嘶吼着,不堪重负,...

33250
来自专栏大数据文摘

你说的案发时间和Apple Watch讲的不一样!

一起表面看来是行窃杀人的案件,其实却是死者亲属的亲手策划,而让真相水落石出的,竟是一块小小的智能手表。如今,健身追踪器和它们收集的数据已经成为了刑事调查的得力助...

13100

扫码关注云+社区

领取腾讯云代金券