2017年12月，一个名为“DeepFakes”的用户在Reddit上发布了一个“假视频”，视频中的艺人其实是后期加上的，但是看起来几乎毫无破绽。 从视频发布以后的好几个星期，网络上不断有人发表文章和报道，抨击这一“换脸”技术，称这种技术将会对社会产生很多负面的影响。 所以，在这篇文章中，我将会介绍这项AI换脸技术的功能和原理，并且阐述其有发展前途的应用领域。 首先我们要先清楚什么是DeepFakes？它能够做什么？ 什么是DeepFakes？ DeepFakes的出现还意味着我们可以在视频中进行大规模的“换脸”。我们大多数人都曾经把自己的照片上传到网络上，因此，我们大多数人的脸都能够轻易地被替换到一些视频中，成为视频的“主角”。 我们发现视频中Oliver的脸上多了一副眼镜，但他的头发和脸型基本没有影响，整个视频看上去非常自然和谐，几乎看不出换脸的痕迹。
车栗子 发自 凹非寺 量子位 出品 | 公众号 QbitAI 注：妹子如有钟爱的男优，烦请自动将文中部分性别词汇翻转后再食用。 Deepfakes，这项AI视频换脸技艺，可能大家已经很熟悉了。 ? 想要快速“入戏”，用户需要把自己的一组照片和视频发给公司，里面还要包含一些不同的表情，让系统给影片主角做出更自然的变脸。 ? 于是，Reddit上的Deepfakes版块爆发了。但问题也随之爆发： 怎么防止自己的影像资料被滥用？ 怎么知道哪些视频还是真实的？ Reddit的Deepfakes版块遭到清洗；成人影片网站PornHub宣布删除所有用Deepfakes合成的视频；动图网站Gfycat也对DeepFakes动图展开大扫除。 ? 人们希望看到，视频换脸技术仅仅在当事人知情且自愿的情况下发生。 绕过问题很容易？
9.9元享100GB流量，1年有效，结合移动直播SDK、美颜特效SDK及小程序直播插件等，构建云+端一体化直播平台，支持电商带货，在线教育，游戏直播，社交直播等多场景
近日，纽约州议会提交了编号A08155的法案，首次明确提出禁止用AI技术制作虚假视频。毫无疑问，一直在法律边缘徘徊的Deepfakes首当其冲。 纽约州这次设立这个法案的初衷，是想保护每个人的隐私权和宣传权。他们认为，像Deepfakes这种将任何人的脸随意“缝合”到任意视频短片上的行为，不仅侵犯了个人隐私，而且还有欺诈嫌疑。 ? △ 纽约州议会提交的A08155法案截图 它可以合成任何人的奇怪视频，包括国家高级领导人，比如奥巴马吐槽川普“笨蛋”的视频就可能引发巨大争议—— ? 2月7号，Twitter禁止用户发布和分享用Deepfakes制作的相关内容。 甚至——连知名加拿大小电影制作网站PornHub，也禁止了由Deepfakes生成的小视频。 ? 近日，纽约州立大学的Yuezun Li、Ming-Ching Chang和Siwei Lyu三人研究出一种检测Deepfakes假视频的新方法，据说可通过眼睛眨动分辨出视频真假。 ?
一段假冒权威人士发布恐怖袭击、疾病灾害等假消息的视频会引起群众恐慌甚至暴力冲突。 最为深远的影响就是对于整个社会公信力的影响。越来越多的人从社交媒体获得第一手信息。 最早向Deepfakes发难的是美国国防部DAPRA。 9月底，谷歌宣布开源的包含3000段真假视频的大型 Deepfakes 数据集，纳入FaceForensics基准当中，供研究社区免费获取并用于开发合成视频检测方法。 比如，去年9月，Facebook宣布启动一项“Deepfakes视频检测挑战赛”（DFDC），悬赏1000万美元以期找到有效检测利用Deepfakes技术生成的假视频的方案。 例如在未来，社交媒体采购Deepfakes甄别技术，将其加入平台视频发布审核流程当中，很可能会成为一种常态。
据该Up主描述，张国荣的视频使用了自主研发的AI换脸技术，清晰度、还原度均领先于业内其他使用Deepfakes的效果，张国荣视频的分辨率也达到了1080P。 “我们用的是变分自动编码器，借鉴了deepfakes的思路，但是解决了很多问题，比如高质量数据，鲁棒性，训练速度，分布式训练，还结合公司特效业务的经验，优化了合成环节，让放回视频里的人脸融合得更自然。 QuantumLiu说，下一步，公司会利用高清的优势和在影视行业的业务，进军影视级别高清换脸，并开发换脸开放平台，让所有人都可以玩转视频换脸。 Deepfakes技术详解 QuantumLiu将在近期发布张国荣“复活”视频的具体实现方法，在他发布之前，我们先来了解下Deepfakes的技术内容。 Deepfakes 使用生成对抗网络(GAN)，其中两个机器学习模型进行了较量。一个ML模型在数据集上进行训练，然后创建伪造的视频，而另一个模型尝试检测伪造。
有句老话叫做“眼见为实”，然而AI技术的迅猛发展正在改变这一切，大量“深度伪造”的视频和音频流入日常生活中，我们可能很快就不再知道如何判断什么是真的，什么是假的。 然而，Deepfakes技术的出现改变了这场游戏。随着Deepfakes的发展和扩散，任何人都有能力制作一个令人信服的假视频，包括一些可能为了政治或其他恶意目的而“武器化”它的人。 如今还没有人因为深度伪造视频，被诬陷犯罪，或被伪造死亡，但是当很难分辨出哪些视频真实存在时，会发生什么？ 事实上，人工智能声音合成也在快速的发展，AI不仅可以生成虚假视频，还可以为人们生成语音模型。 正是因为Deepfakes被人恶意使用，这项技术让很多人感到前所未有的恐慌，甚至有人质疑这种技术根本就不应该开发出来给大众使用。但技术无罪，对于这些造假的换脸视频到底如何处理？
整理 | 费棋 出品 | AI科技大本营 DeepFakes，这种能够移花接木的技术，它能将图像或视频中把一张脸替换成另一张脸。 去年 12 月，一个名 Reddit 用户用 DeepFakes 技术将盖尔·加朵和斯嘉丽·约翰逊的脸嫁接到一个成人电影女星的身上，制作了一个几乎可以以假乱真的视频。 ? 就其发挥的作用本质而言，这跟 CG 技术没多大区别，不过这项技术“换脸”速度极快，成本较低，甚至在今年年初，一款与之相关的名为 FakeApp 的应用被发布，使得虚假内容的创作变得更加容易。 近日，CMU 的研究人员发表了一篇介绍 Recycle-GAN 的论文，他们介绍说这个研究是受到了 Cycle-GAN 的启发。 云与风的合成，研究人员使用它来修改视频中的天气状况，将无风的日子转换为刮风的日子。此外，他们通过两种情况的视频重定向来展示自动视频操作方法：合成视频中的云和风；在不同的视频中制作日出和日落。 ? ?
车栗子 发自 凹非寺 量子位 报道 | 公众号 QbitAI 2018年，对Deepfake视频换脸术来说，是生机勃发的一年。 ? 不论是返回的网页数，还是带有Deepfake视频的网页数，都在持续增长，并没有随着搜索数的回落而停滞不前。 成人产业 成人影片，是第一个受到deepfakes技术大力扶植影响的产业。 这是广大用户对小电影换脸的需求决定的。 报告统计了流量排名前10的成人影片网站上，deepfakes视频的数量： ? 报告统计，2018年新上线的Deepfake小电影网站，有3家。 可惜，报告没有直接提供网址。 开发者群体壮大 报告里写到，合成视频的商品化，对这项技术的传播是有贡献的。 2018年8月，伯克利发表了基于GAN的Every Body Dance，让一个不会跳舞的视频主角，瞬间学会另一段视频里精致的舞步： ?
现有的「造假」技术到底发展到了何种程度？ 现有的造假技术，包括图像生成、语音合成、视频合成等，都取得了很好的成果。 图像生成 拿图像生成来说，最著名的 GAN，自发布以来，便一直在发展。 语音合成 去年年中，谷歌科学家 Ye Jia 等人在 arXiv 上发布了一篇用迁移学习完成语音合成的论文。 作为去年年初最「黑科技」的应用之一，Deepfakes 可以修改视频，将视频中 A 的脸直接移植到 B 的脸上，效果几乎完美。 ? DARPA（美国国防高级研究计划局）正在资助寻求检测假视频方法的研究者，这也是立法者们讨论的话题。去年，共和党参议员 Ben Sasse 曾提出一项法案，禁止制造和销售 deepfakes 假视频。 参议院情报委员会副主席 Mark Warner 在一份白皮书中写道，视频操纵技术将引发前所未有的虚假或诽谤性内容浪潮。
（换脸视频www.deepfakes.com.cn） Deepfakes一开始是在Reddit社区的流行开来的，一位大神deepfakes发出的换脸视频（将明星的脸换到爱情动作片上面）短时间吸引了大量的人气 我们都知道PS是对于图片进行编辑，PS一次处理一张图片要到达换脸的效果都需要技术和时间；而Deepfakes处理视频的，准备工作需要将视频分解成一帧帧图片再进行处理的。 （换脸教程www.deepfakes.com.cn） Deepfakes换脸的基于流程就是选好素材，要做一个普通的换脸效果视频并不难，你要做就是 1.选好要换掉脸的视频A 2.选好要进行覆盖的脸B图片（ 相对于CG动画模拟真人的制作，deepfakes技术的出现降低了重现脸部的技术门槛，让普通用户也可以做出逼真的效果，相信不久，将会有专门的公司制作此类的视频。 更重要的是，deepfakes技术的兴起会让AI计算更加形像，对人们对于AI技术有更新的了解。（换脸视频www.deepfakes.com.cn）
也许是因为这个方法没有给深度学习留下足够的发挥空间，所以它的效果也一般般。 ? 最后用源人物的照片搭配目标人物的解码器就可以完成转换。它也对视频到视频的转换有良好支持。 DeepFakes 刚刚公开时也仅限于技术爱好者们之间交流，也并没有发布正式的论文。但一些盖尔·加朵的换脸动图一下子引爆了关注。 今年年初曾经热炒的「杨幂换脸朱茵」视频也很可能是用这个方法实现的，因为 DeepFakes 中的编码器经过足够的训练后确实能够具有将任意输入人脸（比如朱茵的人脸）转换为高质量、高逼真度的目标人脸（杨幂人脸 三星莫斯科 AI 研究中心联合斯科尔科沃科学技术研究所在今年 5 月发表的一篇论文就带来了不错的结果。不仅是真人的照片，他们甚至可以让油画中的人自然地开口说话。
这就要花费很多人工和时间，而且想在视频里换个脸更难，每一帧都得换。 但自从这个叫做“deep fakes”的软件被匿名开源发布，一切都不一样了。 广受诟病被封杀 2017 年，一个名为Deepfakes的匿名用户在Reddit论坛上公布了一段代码，让不懂视频后期的用户也能轻松通过输入足够样本的图像供机器学习，以此换掉视频中人物的脸。 斯嘉丽·约翰逊的换脸视频 这些问题让Deepfakes因此大受诟病，连一向以开放著称的Reddit社区都表示了谴责，强制把/r/deepfakes subreddit.下线。 之后，包括facebook、twitter和pornhub在内的多家网站都对Deepfakes发布了禁令。 ? 不过，相关的研究还在进行。网友们也找到了越来越多使用这一开源代码自娱自乐的新方式。 首先需要下载或克隆Github作者在网页上发布的文件集。然后找到页面相应按钮下载即可。
至此，抵制“换脸换脸情色视频”的做法已获得了包括twitter等社交平台，pornhub等色情网站等各大平台的认可。 ? Reddit官方禁令声明? 如果仅仅是自娱自乐还不至于此，这位技术咖为这个小程序添加了一些工具，发布了应用“FakeApp”，把“换脸“这件事变得非常自动化且可操作： 你只要先收集一个人的照片集或者视频，然后选择一个小电影进行操作 昨天，Reddit Inc.也终于发出“抵制AI技术合成的爱情动作片”声明。这标志着抵制“假视频”的做法获得了各大平台的认可。 这些公司发布禁令的最主要原因是“非自愿情色”。 这个事件的重点是：虽然视频是假的，但是Deepfakes仍然在未经允许的情况下侵犯了别人。 技术尽管无罪，但有责任感的大平台依然会为道德伦理让步。 找到需要替换的视频，用ffmpeg提取成一帧一帧的图片。 4. 用训练出来的样本对每一帧的图片进行替换。 5. 用ffmpeg合成视频。 知乎用户【李瑞】表示，整个过程中最难的是第二步：训练样本。
在不久前，Facebook 发起了 Deepfakes 检测挑战赛；而近日，谷歌 AI 就跟着强势推出了 Deepfake 视频检测数据集，势将一同与假视频死磕到底。 谷歌希望能够通过这些视频数据，更好的维护整个社会的网络安全环境，并使得开发者能够利用这些数据，开发新的 Deepfake 检测工具，更高效地识别 Deepfake 假视频。 去年 1 月，谷歌宣布发布一个合成语音数据集，以支持开发高性能合成音频检测器的国际挑战赛。 Deepfake 视频检测数据集介绍 ---- 谷歌现在开始与 Jigsaw 合作，并发布了一个自制的大型可视化数据集，该数据集已被纳入 Face Forensics 视频基准测试。 Forensics++是一个由 1000 个原始视频序列组成的检测数据集，这些视频序列通过四种自动面部操作方法进行操作，即 deepfakes、face 2 face、faceswap 和 Neural
［由于众所周知的原因，视频营长还是自己收藏吧］ 营长了解到，这是一个名叫“deepfakes“的Redditor的个人作品。他使用了免费的谷歌的TensorFlow开源机器学习工具。 到目前为止，Deepfakes已经在Reddit上面发布了以寡姐，二丫，泰勒，Aubrey Plaza和Gal Gadot的脸为特征的色情视频。 目前这些演员们的公关人员并没有任何与虚假色情视频有关的回应。 其实，“张冠李戴”的虚假视频并不难制作，任何有深度学习算法背景知识的人都可以将一个人的脑袋和另一个人的身体嫁接到一起。 匿名的deepfakes介绍，为了编译完成名人的脸，他使用了谷歌图片搜索，股票照片和YouTube视频几个工具。我们都知道，深度学习是由互连节点的网络组成，这些节点可以自主的在输入数据上进行计算。 而当我们仔细查看了几乎所有的deepfakes已经发布的视频，发现其结果并未比CG技术提高很多。
---- 经过一个周末的发酵，一夜爆红的换脸APP“ZAO”已经被推到了舆论的风口浪尖，在娱乐的同时，涉及的技术问题、隐私问题、安全问题备受关注。现在我们冷静下来再审视这个ZAO。 “换脸”不新鲜，Deepfakes技术详解 虽然ZAO没有公布使用的具体技术，但其实，AI换脸并不是非常新鲜的技术了。前一阵子便有朱茵变杨幂，海王变徐锦江的相关报道。 ? 一个ML模型在数据集上进行训练，然后创建伪造的视频，而另一个模型尝试检测伪造。伪造者创建假视频，直到另一个ML模型无法检测到伪造。训练数据集越大，伪造者越容易创建可信的deepfake视频。 ? 比如这个在Twitter上已经播放了50多万次的视频，就是一位印度游戏开发工程师用ZAO做出的《泰坦尼克号》，视频中，他化身Jack，融入到一幕幕经典场景中。 在评论中，外国网友也热议这个APP。 “说实话，每个允许用户发布自拍的平台都可以做到。问题是人们永远不会停止发布自拍。” ? “deepfake的演变是不可思议的。该技术仅用了3年时间，现在它已经用于公共应用程序中。”
8月30日上午10点半左右，正在使用ZAO的用户发现，想要生成一段新的AI换脸视频，已经不是等待几秒、排队第几位的问题，而是—— “服务器繁忙” 提示页卡上写着：当前制造任务已满，无法制造，预计10:XX 在国外的Reddit论坛上，有一个deepfakes社区，一个月内聚集了1.5订阅者，并产生了大量的AI换脸视频。 这听起来简单，但对于普通用户来说，下载、安装、训练都是费时费力的大工程。所以通常都是一些爱好者制作发布，大家欣赏换脸后的成片。 而这次ZAO把门槛一下拉低到近乎没有。 这个简单的应用可能会被居心叵测的用户利用，从而制作各种色情、暴力甚至关乎政治的虚假视频，一旦发生，后果可能非常严重。 这并非耸人听闻。而且不只是视频，AI还能“造假”声音。 让新垣结衣向你表白，让石原里美大声喊出你的名字，甚至随便根据某个人的视频伪造个人陈述……现在都不在话下。 手握这项技术，在视频中让你怎么说你就怎么说，让你说什么你就得说什么，谁也看不出来这是假的。
还有视频方向，各种视频处理应用都可以为视频里的人脸增加许多特效，B站的鬼畜区也经常把包含人脸的影视、演讲等公开素材重新剪辑处理。 这些工具都可以拿一个人的脸开玩笑，甚至实现恶意的污蔑。 在国内，DeepFakes第一次制造波澜则是发生在朱茵和杨幂两位女明星身上，有一个名为“换脸哥”的B站用户将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸，并且把处理过的视频发在了B站。 ? 而且，DeepFakes早已不需要会写代码就能使用了，相关的fakeapp等软件应用，只要你装到一台能流畅运行大型游戏的电脑上，就可以自己生成换脸小视频了。 很快，这引发了一些国内网友的恐慌，担心这项技术会被用在违法犯罪方面，用来诈骗或者污蔑他人。巨大的争议之下，UP主“换脸哥”删掉了自己发布的视频。 不过，争议并没有让国内的DeepFakes视频创作者们停止创作，他们转向了几位B站鬼畜区常青树，把徐锦江换到了海王身上： ? 把“吃屎吧，梁非凡”场景中的两位主角换脸： ?
Deepfake 换脸视频的病毒式传播引发了美国政坛的警惕。近日，加州通过了一项旨在阻止「Deepfake」伪造视频影响大选的法令，引发了人们对于言论自由的担忧。 与此同时，荷兰的一家网络安全公司发布了首份 deepfake 全球调查报告。结果显示，目前的 deepfake 视频 96% 仍为色情内容。 ? 该法令适用于选举期 60 天内的所有候选人，范围包括音频和视频内容，但也有一些例外，如新闻媒体制作的讽刺、戏仿视频。自己打上「虚假」标签的虚假视频和音频也不受此法令限制。 代码有门槛，但普通人也有办法 大多数媒体对 deepfakes 的报道主要聚焦于顶级学术实验室制作的高度逼真且无缝衔接的视频。 但他们还有其他的选择：20 个 deepfake 创建社区和论坛，并借助于少量应用程序和服务的链接来制作 deepfakes 视频。
数据协作平台（DSP）为企业用户和个人用户提供安全可靠的数据订阅服务。企业用户可通过数据共享平台，在国家法律法规允许的范围内发布数据；个人用户和其他企业用户可通过数据共享平台订阅已发布的数据。
扫码关注云+社区
领取腾讯云代金券
云服务器
测试服务 WeTest
文件存储
云数据库 MongoDB
SSL 证书