请牢记:Deepfakes 是一种占有女性身体的方式

Deepfakes 这个名字其实是 “deep machine learning” (深度机器学习,人工智能的一个分支)和 “fake photo” (假照片)的缩写。我们找到 Reddit 用户 Deepfakes 时,他已经在一个明星色情论坛混迹已久,并在上面制作了不少伪明星成人视频。而他的用户名 Deepfakes 最终也成了这些视频的代名词,成了这个虚实难辨的网络时代的代名词。

这个无法无天的虚拟世界中, Deepfakes 通过一种机器学习技术打造出了大量换脸成人视频,并把这些视频上传到公共色情论坛。如果你看过这些视频,一定会把它们的逼真性吓一跳。

先给不了解 deepfakes 的读者科普一下。 deepfake 是一种人工智能生成的视频,这些视频把一个人的脸换到另一个人身上,有点类似于过去我们常看到的 P 出来的明星色情图片,只不过现在它不再是一动不动的照片,而是足以以假乱真的性爱视频。

Deepfakes 最早在 Reddit 上发布作品是在2017年年末。到2017年12月,我和我们 Motherboard 的编辑就已经追踪到了他,并且针对这一现象发表了一篇深度报道文章。到2018年1月中旬,在以 deepfakes 为主题的 reddit 子版块里,就已经有人做出了一款适用于普通用户的 deepfakes 应用 —— FakeApp ,即便是小白也可以在这款应用上轻松运行 deepfakes 算法。一时间,所有的伪成人视频爱好者都开始制作起了属于自己的人工智能生成小电影,而且其中不乏水准精良之作。

随着这项技术日益普及,越来越多的媒体开始报道这一现象,恐慌情绪也随之出现,因为媒体理论家认为现在视频也开始失去真实性,这将对新闻和政治都产生巨大的冲击。但是请注意,这一切都始于性爱,始于历史悠久的畸形男性文化。他们为满足一己私欲,未经他人同意,打造出一张张满是马赛克的扭曲的脸。

Deepfakes 只会用 Reddit 私信和我交流,而且我们只交流了很短一段时间。到后来,也许是因为他一手打造的这个东西让他自己也感到害怕,他再也没有回复我。 “我只是一个对机器学习感兴趣的程序员,” 他在第一次私信时告诉我,“我不是什么专业的研究人员。”在当时,也就是去年12月份,他的作品还只是在某个子版块里流行。这个子版块专门发布把女明星的脸 P 到色情明星身上的照片,这种恶趣味自打照片剪辑技术出现以来就一直没有消停过。

但是在人工智能算法面前,这些年的明星色情 “神 P 图” 简直像粗糙的剪贴画一样不值一提。 Deepfakes 发现他能够使用已有的人工智能算法让这些照片动起来。你要做的只是往算法中输入几百张某人的照片,然后把训练运用在另一个人的视频上,让人工智能对视频中的人脸进行自动匹配,尽量还原原视频的效果。这项技术把色情 P 图提升到了一个全新的台阶,更让我们嗅到了一丝反乌托邦的味道。这就像是《摩登保姆》和克苏鲁怪物的结合体,而且现在人人都有这个能力。

每个人都能做,但不是每个人都愿意做。并不是每个人都有这个耐心,也不是每个人的设备都有这种图像处理能力,用算法和一系列的数据集让自己性幻想对象在屏幕上动起来。但反过来想,挡在你面前的有且仅有一台高配置电脑和一份永不言败的精神。这项技术的易操作性和开源人工智能研究,再加上各种提供新手教学的游戏社区和照片处理社区,让这项原本只有好莱坞大片才掌握的技术彻底走向平民化。

在长达数周的调查期间,我大概在各大论坛上看了好几个小时的 deepfakes 作品,这些大部分是只有几秒钟长的 gif 动图或者没有声音的短片。只要算法运行得好,再加上充足的数据和足够的时间,就能打造出以假乱真的作品。特别是在压制成低像素画面后,更是让人难辨真假。但是如果训练出现错误,那么出来的结果简直可以称为恐怖(很多网友会把这些失败作品发出来以供交流)——模糊的画面,色情片中常见的扭曲表情,粗糙的人工智能生成的恐怖谷效果,和身体若即若离的人脸,在抽插动作下剧烈扭摆的身体。你可以看到算法努力想要把脸贴到不属于她的身体上,结果只是把这些面孔变成了梦魇般的诡异面具。

“这些视频中的女人,不管是色情女星本人,还是被换脸的受害者,都没有同意让自己的形象在网上以这种形式流传。”

因为工作需要,我看了很多的黄片。我每天都在阅读性工作者的相关文章,了解她们的故事。所以对我来说,根本没有 “工作期间谨慎浏览” 的顾虑。但是 deepfakes 不一样,这些视频中的女人,不管是色情女星本人,还是被换脸的受害者,都没有同意让自己的形象在网上以这种形式流传。这种现象让我感到反感,因为这种事情可能发生在任何人身上,而且在做这种事的人根本不会去考虑受害者的感受。

在这些论坛上,所有的作品,不管是成功的视频、掉帧的视频还是原材料,下面都是冷冰冰的评论,要么是对成品进行点评,要么是给制作流程挑错。这就是这些网友讨论他人肖像的方式,在他们眼中只有数据集和最佳训练次数。

在 Deepfakes 的作品爆红网络、他本人彻底沉默之前,我问他的最后一个问题是,他是否会担心自己的爱好有天会被用来做伤天害理的事情。他回答我说,不会,并辩称任何技术都会被用来做坏事。他说: “让更多普通人加入到机器学习研究当中,我不觉得这是什么坏事。”

但是受影响的女性可不这么想。当我把一段 deepfakes 视频播放给一位色情女星看时,她质问这些制作者是否购买了版权?她们靠色情片辛苦赚钱糊口,就这么被网民盗取并且滥用?当我问起一位 youtube 网红是怎么发现自己的脸被换到一支 deepfake 视频上时,她的眼泪差点夺眶而出。她说是她的一个中学生粉丝碰巧看到了一支这样的视频,这个粉丝直接把视频发给她看,以求证视频的真伪。

但对于大部分 deepfakes 爱好者来说,这些女性不过是可以随意互换的肢体罢了。

图片来源

全球各大新闻媒体在报道 deepfakes 时,都跳过了性与许可权的问题,他们担忧的是随之将要出现的 “假新闻” 。的标题也从 “天呐裸体!” 变成了 “天呐要是有人做出特朗普发射核弹的假视频那该怎么办?” 。 deepfakes 虽然引起了媒体的注意,但关于 deepfakes 的根源,却鲜有人进行深入探究。

要理解 deepfakes 的根源何在,首先我们弄清楚色情媒体的发展。在六七十年代《花花公子》和《Hustler》杂志的全盛时期,色情产品大部分是在小酒馆或者色情录像厅这类公共的、男性占主导的场所出现。因为社会偏见,女性在进入这些场所之前都会经过慎重考虑。

互联网的普及改变了人们获得色情产品的途径,但是整个产业的目标群体依然是男性消费者。男人们已经不再去色情录像店挑电影了,但他们依然在互联网上占领各种公共空间。如果你是以女性或者边缘人士的身份进入这些公共空间,难免要遭到辱骂或者骚扰。 Reddit 就是其中之一,这里面有不少历史悠久的版块专门交流 “明星脸” 和偷拍照。专门服务游戏玩家的语音聊天平台 Discord 则是另一个重灾区,很多人都在上面以游戏为名骚扰女性,而且我们能在很多私人频道发现海量的女性照片。另外还有像 4chan 和 8chan 这种充斥着大量露骨女性照片的论坛,以及专门传播前任性爱视频的私人论坛。

在这些网络空间,男性的妄自尊大和对女性身体的控制欲彻底膨胀。在互相交流当中,这些男性产生了 “我就是宇宙之主” 的错觉,认为他们不需要对任何人负责。正是这种荒谬逻辑催生了 “非自愿独身” (incel)和所谓的 “把妹专家” ,这也正是 deepfakes 出现的原因:一群男性觉得把女性当作图像来看待并没有什么错,在他们看来,为报复前任而制作和传播性爱视频,就好像交换棒球卡一样无可指责。

这就是我经常强调的一个问题:我们一定要提防 deepfakes 诞生背后的思想。我们可以对使用人工智能所涉及的伦理道德、虚假新闻、机器学习工具的普及等问题展开长篇大论,但我们首先应该认识到,这项可能触发核战争的技术,最初是被男性用来满足他们对女性身体的幻想。

这就是 deepfakes 诞生的根源。如果忘掉这一点,那么由此产生的恶果可能会远超我们的想象。

注:自2018年2月7日以来, Reddit 已经更新了网站政策,明确禁止非自愿情色。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180713A0KCO100?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券