情色边缘游走，夹缝中生存，这个AI“换脸术”可能要被官方禁止
安妮 发自 凹非寺 量子位 出品 | 公众号 QbitAI
游走在情色边缘但野蛮生长的AI换脸术Deepfakes，可能在纽约州“命不久矣”。
近日，纽约州议会提交了编号A08155的法案，首次明确提出禁止用AI技术制作虚假视频。毫无疑问，一直在法律边缘徘徊的Deepfakes首当其冲。
这个可将AV头像中的人物任意换成你喜欢的明星脸，并且号称人人可用、简单易上手的“AV实时换脸器”，自今年初问世后就引发大量围观。
女神艾玛·沃森出演小电影？大误啊，若非明眼人，可能很难想到这些小片都是合 成 的 ！
△ 合成的艾玛·沃森（部分截图）
妹想到，就在Deepfakes将被“官方”打入冷宫时，多家影视界大佬往前一站，实名反对说，它，们，不，干。
包括关注儿童健康成长100年的迪士尼影视等，这次都为这个小电影造假器站台。这到底是怎么回事？
不好！是A08155法案
这是第一次，有政府部门明确采取行动打击Deepfakes。
纽约州这次设立这个法案的初衷，是想保护每个人的隐私权和宣传权。他们认为，像Deepfakes这种将任何人的脸随意“缝合”到任意视频短片上的行为，不仅侵犯了个人隐私，而且还有欺诈嫌疑。
△ 纽约州议会提交的A08155法案截图
它可以合成任何人的奇怪视频，包括国家高级领导人，比如奥巴马吐槽川普“笨蛋”的视频就可能引发巨大争议——
A08155法案中写到：“个人角色（Persona）是个人财产，是可以自由转让和继承的。”
因此，出于商业目的且没有征得个人同意制作电影、广告，音乐剧的“数字副本”都是对个人权利的侵犯，任何故意制作这些虚假视频的人都应当被视为欺诈行为，并应该向受害人支付赔偿金。
那么，这个法案中提到的“Persona”，到底包括什么？量子位仔细查看法案本身，发现第8条中明确规定，Persona包括一个个体（Individual）的姓名、肖像、照片、声音、签名。
那这个“Individual”的范围又是什么呢？法案也明确了，这是指“a natural person, living or dead”，存在和去世40年以内的人，都在法案的影响范围内。
△ 法案原文对Individual和Persona定义截图
根据法案50-f条规定，如果想出于商业目的使用上述内容，需要征求本人的书面同意，若对方为未成年人，则需要征得其父母的书面同意，若对方已故，则需要联系其继承人或受让人……
也就是说，无论一个人还在不在世，只要曾经存在，使用其姓名、肖像、照片、声音和签名都必须联系相关人士，并制定书面协议。对于影视制作来说，使用难度一下子上升了好几个等级，无异于天降横祸。
法案一出，多家好莱坞制片方的强！烈！抵！抗！，这是些闪闪发光的名字：派拉蒙影业、索尼影视娱乐公司、福克斯电影公司、环球影城工作室、迪士尼工作室和华纳兄弟娱乐公司……
这些电影制作公司认为，这个法案对创造力和讲故事的限制太大，想为演员、音乐家、运动员拍摄传记电影都变得难以启动。
他们同时表示，消除Deepfakes的负面影响确实迫在眉睫，但以这种方式解决可能违反宪法，违反了第一修正案中“保护言论自由不受政府监管的”这一条。
法案原文： http://nyassembly.gov/leg/?default_fld=&leg_video=&bn=A08155&term=2017&Summary=Y&Text=Y
反对书全文： https://www.rightofpublicityroadmap.com/sites/default/files/pdfs/mpaa_opposition_to_a8155b.pdf
这次，终于有大机构站在一直被指责的Deepfakes这边了。
被禁声音从未停止
其实，被禁止的声音一直都存在。Deepfakes的诞生是在Reddit，没成想首次被封杀也是在Reddit。
今年年初，一名叫“deepfakes”的用户创造了这个机器学习算法，还开设了同名Reddit论坛版块，“deepfakes”也因此成为这项技术的代名词。有缘千里来相会，短短一个月就有15000多名用户在此订阅、交流、分享自己做的小电影片段。
一时间，这个论坛版块变成了改头换面版小电影交流区了，还有网友创建了一个简单易用的桌面应用FakeApp，只需1到2条明星高清视频就能给爱情动作片换脸。
△ 用Deepfakes造假的以色列演员Gal Gadot
Deepfakes一下子传播开了，各路媒体纷纷报道，这个来自民间高手的江湖算法，被越来越多人知晓。
但没过多久就变天了。一个月后的2月7号，Deepfakes的破壳地，这个叫r/deepfakes的小论坛被封杀了。Reddit给出的官方回复是“禁止色情、被色情及未成年人色情内容。”
量子位尝试在Reddit上找到它存在的痕迹，显示4个月前便被封锁——
△ 曾经的Deepfakes论坛已经关闭
回顾这几个月，Deepfakes一直在被禁之路上领跑。
- 1月26日，在线聊天平台Discord强行下架deepfakes相关的聊天群。
- 1月31日，流行动图制作平台Gfycat明确反对Deepfakes，并删除所有相关动图。
- 2月7号，Twitter禁止用户发布和分享用Deepfakes制作的相关内容。
- 甚至——连知名加拿大小电影制作网站PornHub，也禁止了由Deepfakes生成的小视频。
△ 本是……同根生？
不过，这些反对终究都不是官方的，谁也没想到，最后会闹到纽约州的法案上去。
机构混战
一项Deepfakes技术，现在已经俨然上升至美国的机构混战。
对于这条可能影响未来AI技术应用和电影创作的法案，Deepfakes反对方演员工会-美国电视和广播艺人联合会（SAG-AFTRA NY）在Twitter又发一系列新推表示支持A08155法案：
造成灾难的因素:互联网+新技术+用户没有同理心+你的照片=非自愿性
美国劳工联合会-产业工会联合会（NYSAFLCIO）也为演员工会站台，表示“企业不应在未经其同意的情况下从演员的形象中获利”。
一方是好莱坞众多影视行业大佬和AI技术从业者，一方是美国演员工会和劳工联合会，最后哪方赢得最后胜利呢？
One More Thing
这事还有个题外话。
近日，纽约州立大学的Yuezun Li、Ming-Ching Chang和Siwei Lyu三人研究出一种检测Deepfakes假视频的新方法，据说可通过眼睛眨动分辨出视频真假。
△ 论文截图
感兴趣的同学，可以移步论文下载地址继续探索：
https://arxiv.org/pdf/1806.02877.pdf
就酱，各位端午节快乐~