情色边缘游走,夹缝中生存,这个AI“换脸术”可能要被官方禁止

安妮 发自 凹非寺 量子位 出品 | 公众号 QbitAI

游走在情色边缘但野蛮生长的AI换脸术Deepfakes,可能在纽约州“命不久矣”。

近日,纽约州议会提交了编号A08155的法案,首次明确提出禁止用AI技术制作虚假视频。毫无疑问,一直在法律边缘徘徊的Deepfakes首当其冲。

这个可将AV头像中的人物任意换成你喜欢的明星脸,并且号称人人可用、简单易上手的“AV实时换脸器”,自今年初问世后就引发大量围观。

女神艾玛·沃森出演小电影?大误啊,若非明眼人,可能很难想到这些小片都是合 成 的

合成的艾玛·沃森(部分截图)

妹想到,就在Deepfakes将被“官方”打入冷宫时,多家影视界大佬往前一站,实名反对说,它,们,不,干。

包括关注儿童健康成长100年的迪士尼影视等,这次都为这个小电影造假器站台。这到底是怎么回事?

不好!是A08155法案

这是第一次,有政府部门明确采取行动打击Deepfakes。

纽约州这次设立这个法案的初衷,是想保护每个人的隐私权和宣传权。他们认为,像Deepfakes这种将任何人的脸随意“缝合”到任意视频短片上的行为,不仅侵犯了个人隐私,而且还有欺诈嫌疑。

纽约州议会提交的A08155法案截图

它可以合成任何人的奇怪视频,包括国家高级领导人,比如奥巴马吐槽川普“笨蛋”的视频就可能引发巨大争议——

A08155法案中写到:“个人角色(Persona)是个人财产,是可以自由转让和继承的。”

因此,出于商业目的且没有征得个人同意制作电影、广告,音乐剧的“数字副本”都是对个人权利的侵犯,任何故意制作这些虚假视频的人都应当被视为欺诈行为,并应该向受害人支付赔偿金。

那么,这个法案中提到的“Persona”,到底包括什么?量子位仔细查看法案本身,发现第8条中明确规定,Persona包括一个个体(Individual)的姓名、肖像、照片、声音、签名

那这个“Individual”的范围又是什么呢?法案也明确了,这是指“a natural person, living or dead”,存在和去世40年以内的人,都在法案的影响范围内

法案原文对Individual和Persona定义截图

根据法案50-f条规定,如果想出于商业目的使用上述内容,需要征求本人的书面同意,若对方为未成年人,则需要征得其父母的书面同意,若对方已故,则需要联系其继承人或受让人……

也就是说,无论一个人还在不在世,只要曾经存在,使用其姓名、肖像、照片、声音和签名都必须联系相关人士,并制定书面协议。对于影视制作来说,使用难度一下子上升了好几个等级,无异于天降横祸。

法案一出,多家好莱坞制片方的强!烈!抵!抗!,这是些闪闪发光的名字:派拉蒙影业、索尼影视娱乐公司、福克斯电影公司、环球影城工作室、迪士尼工作室和华纳兄弟娱乐公司……

这些电影制作公司认为,这个法案对创造力和讲故事的限制太大,想为演员、音乐家、运动员拍摄传记电影都变得难以启动。

他们同时表示,消除Deepfakes的负面影响确实迫在眉睫,但以这种方式解决可能违反宪法,违反了第一修正案中“保护言论自由不受政府监管的”这一条。

法案原文: http://nyassembly.gov/leg/?default_fld=&leg_video=&bn=A08155&term=2017&Summary=Y&Text=Y

反对书全文: https://www.rightofpublicityroadmap.com/sites/default/files/pdfs/mpaa_opposition_to_a8155b.pdf

这次,终于有大机构站在一直被指责的Deepfakes这边了。

被禁声音从未停止

其实,被禁止的声音一直都存在。Deepfakes的诞生是在Reddit,没成想首次被封杀也是在Reddit。

今年年初,一名叫“deepfakes”的用户创造了这个机器学习算法,还开设了同名Reddit论坛版块,“deepfakes”也因此成为这项技术的代名词。有缘千里来相会,短短一个月就有15000多名用户在此订阅、交流、分享自己做的小电影片段。

一时间,这个论坛版块变成了改头换面版小电影交流区了,还有网友创建了一个简单易用的桌面应用FakeApp,只需1到2条明星高清视频就能给爱情动作片换脸。

用Deepfakes造假的以色列演员Gal Gadot

Deepfakes一下子传播开了,各路媒体纷纷报道,这个来自民间高手的江湖算法,被越来越多人知晓。

但没过多久就变天了。一个月后的2月7号,Deepfakes的破壳地,这个叫r/deepfakes的小论坛被封杀了。Reddit给出的官方回复是“禁止色情、被色情及未成年人色情内容。”

量子位尝试在Reddit上找到它存在的痕迹,显示4个月前便被封锁——

曾经的Deepfakes论坛已经关闭

回顾这几个月,Deepfakes一直在被禁之路上领跑。

  • 1月26日,在线聊天平台Discord强行下架deepfakes相关的聊天群。
  • 1月31日,流行动图制作平台Gfycat明确反对Deepfakes,并删除所有相关动图。
  • 2月7号,Twitter禁止用户发布和分享用Deepfakes制作的相关内容。
  • 甚至——连知名加拿大小电影制作网站PornHub,也禁止了由Deepfakes生成的小视频。

本是……同根生?

不过,这些反对终究都不是官方的,谁也没想到,最后会闹到纽约州的法案上去。

机构混战

一项Deepfakes技术,现在已经俨然上升至美国的机构混战

对于这条可能影响未来AI技术应用和电影创作的法案,Deepfakes反对方演员工会-美国电视和广播艺人联合会(SAG-AFTRA NY)在Twitter又发一系列新推表示支持A08155法案:

造成灾难的因素:互联网+新技术+用户没有同理心+你的照片=非自愿性

美国劳工联合会-产业工会联合会(NYSAFLCIO)也为演员工会站台,表示“企业不应在未经其同意的情况下从演员的形象中获利”。

一方是好莱坞众多影视行业大佬和AI技术从业者,一方是美国演员工会和劳工联合会,最后哪方赢得最后胜利呢?

One More Thing

这事还有个题外话。

近日,纽约州立大学的Yuezun Li、Ming-Ching Chang和Siwei Lyu三人研究出一种检测Deepfakes假视频的新方法,据说可通过眼睛眨动分辨出视频真假。

论文截图

感兴趣的同学,可以移步论文下载地址继续探索:

https://arxiv.org/pdf/1806.02877.pdf

就酱,各位端午节快乐~

原文发布于微信公众号 - 量子位(QbitAI)

原文发表时间:2018-06-18

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数说工作室

【数说•大数据公司】德强农场

我们在微博中每天播报大数据风控、精准医疗、精准农业、关联营销、推荐系统等等......可以发现,大数据将各行各业的生产和营销能力提高了不止一个倍数。 从今天开...

4048
来自专栏Jerry的SAP技术分享

汶川大地震中的SAP成都研究院

5·12汶川地震,发生于北京时间(UTC+8)2008年5月12日(星期一)14时28分04秒,此次地震的面波震级 里氏震级达8.0Ms、矩震级达8.3Mw,地...

4468
来自专栏机器人网

未来农业方向是这样的:盘点十大最先进的农业机器人

农业机器人是用于农业生产的特种机器人,是一种新型多功能农业机械。农业机器人的问世,是现代农业机械发展的结果,是机器人技术和自动化技术发展的产物。农业机器人的出现...

3747
来自专栏镁客网

【深度】Trident带你探秘海底世界的奇妙!

1423
来自专栏VRPinea

9.8 VR扫描:曝谷歌将接手HTC手机业务;Oculus Medium推出重要更新

2907
来自专栏ThoughtWorks

TW洞见〡亲爱的,今天你“债”了吗?

文章作者来自ThoughtWorks:刘彩红,图片来自网络。 打开百度百科,债务指债户还债的义务,有时也指所欠的债及为了清偿所有的债务而工作。 ...

27710
来自专栏镁客网

自制手枪无人机引起了美国联邦局的调查

1583
来自专栏新智元

AI 改变法律世界:对话式机器人杀掉律师,数百万裁决将有 AI 参与 | 大西洋月刊深度

【新智元导读】AI技术的进步已经在削减律师的作用。律师机器人首先会辅助律师的工作,继而会取代律师的工作。本文作者Jason Koebler对AI和法律领域都有了...

4367
来自专栏灯塔大数据

塔说 | 计算机之父图灵的150封信,多在讨论AI

摘要:曼彻斯特大学计算机科学系教授吉姆·迈尔斯(Jim Miles)近日在一个旧文件柜里发现了艾伦·图灵的近150封信,这些信装在一个普通的空色文件夹里,上面潦...

3387
来自专栏*坤的Blog

分析 《7吨碳九泄漏,40万泉港人在无声中消逝》虚假报道

本着向来不看单一报道评判一个事情的原则,根据关键字查询了下国内外的近期新闻,有介绍的都是小众媒体和自媒体转发北风刘先生的文章。并没有看到有其他正式的媒体介绍相关...

3.7K302

扫码关注云+社区

领取腾讯云代金券