互联网巨头集体封杀,AI换脸能走多远?

 图源:搜狐网

多少人还记得去年在微博爆火的视频:有人将《射雕英雄传》中朱茵扮演的“黄蓉”换成了杨幂,换脸后的“黄蓉”毫无痕迹,并且轮廓清晰、表情自然,完全看不出是经过换脸的。

在前几日,Twitter和Facebook等互联网巨头表示,将对AI换脸等虚假视频进行打击。比如将对任何“明显且欺骗性地编辑或捏造”的照片和视频打上“虚假”警告标签。在这之前,Alphant旗下的Youtube早些时候就表示,将删除任何经过技术修改,并可能构成“严重伤害风险”的内容。

近两年,AI换脸技术在国内十分火爆的同时,也引发了民众的隐私恐慌,尤其是支付宝等软件对人脸识别技术的使用,使得人们重新审视AI换脸技术的威胁性。

AI换脸如火如荼

其实AI换脸技术并非现在才有的,在17年底,国内引入了一款名为deepfake的软件,该软件能够将视频和照片中的人脸替换成任何想要替换的人脸,并且能够达到以假乱真的程度。

著名影星斯嘉丽·约翰逊就是这样变成了色情电影的女主角。

斯嘉丽·约翰逊 | 图源:百度

同样,拥有着广泛男性用户粉丝的P站上,AI换脸早就把各大女明星都“玩”遍了,并且,据统计,P站的相关作品中关于斯嘉丽的是最多的。并且,一些网站上也开始出现用AI换脸来“改编”影视作品的博主。

而这股邪风也刮到了国内,除了狠刷了一把流量的“朱茵变杨幂”还有“徐锦江对战灭霸”、“洪世贤换脸艾莉”外,几乎所有的经典影视场景都被AI换脸玩了一遍,这些视频在b站广为流传,播放量惊人。

生产AI换脸视频的软件“ZAO”也刷爆朋友圈,大火特火。在以往,一般仅仅是一些视频爱好者掌握了相关的操作技能之后再对视频进行换脸制作,再发布出来供大家观赏。而这些视频的制作过程通常较为繁琐复杂,对于一般的用户来说是一个费时费力的工作。

而ZAO的使用门槛很低,使用者不需要编程、数据集以及相关AI知识,甚至不需要电脑,只需要一部手机、一张自拍就可以进行操作。

AI换脸带来的前所未有的参与感、体验感以及互动性对用户产生了极大的吸引力,毕竟能将自己的脸放入影视作品中,与自己的偶像来一场“对手戏”,这足以令多少追星少女激动到尖叫,即便是假的,也有满满的刺激感。

换脸视频、ZAO等软件的出现使得AI换脸技术被普通大众所熟知,在普通人用来满足自己的好奇心与新鲜感的同时,不少人从中看到了“商机”。通过这项技术,一些不合法的行为多了起来,也引发了人们对这项技术的怀疑。

AI换脸伴随的黑色产业

在我们的印象中,似乎AI换脸技术在问世以来好像就没有“干过”什么实质性的好事,例如deepfake自诞生,大部分伪造的虚假视频都被用于色情行业了……除了之前所说的影星斯嘉丽·约翰逊被AI换脸放入色情制品,越来越多的女明星的脸通过AI技术被个人、网站所滥用。

某女主播换脸迪丽热巴、佟丽娅、唐嫣 | 图源:搜狐娱乐

在移动智能产品普及的今天,隐私成为了几乎不太可能的事情。经调查发现,目前AI换脸带来的黑色产业已经形成了完整的产业链,从最下游的色情制品、中游的个性定制视频、上游的软件与教程等都有提供。

“低于15部4元一部,超过的3元一部,80部只要68元……”“定制‘换脸’视频一分钟50元,2分钟95元,3分钟135元,3分钟起定制……”这一类的“广告语”在很多网站进行投放,虽然在淘宝、咸鱼等平台几乎难以找到这类视频的商家,但是他们通过各种网站引流到微信、QQ等社交软件进行交易,往往能赚一大笔。

在技术的支撑下,任何人都有可能成为穿着暴露的色情片主角,这是一件多么令人恐惧的事情,而在当前,这些黑色产业发展如火如荼,其“兴旺”程度令人难以想象。

甚至在进行AI换脸之后仍不能够满足一些人寻求刺激的心理,开始出现了AI脱衣的应用。该应用同样是国外一个技术团队所研发出来的,名为deepnude,该软件的用户只需要上传一张女性的照片,软件就能够自动“脱掉”照片中女性的衣物,直到能够看到果体。

而且deepnude只能对女性照片“一键脱衣”,目前网络上已经出现了不少女明星的“果照”,其中包括霉霉与卡戴珊。该软件在受到广泛关注之后虽立即下线,但是试想,如果这项技术普及且管控不力,会有多少普通女性将深受其害?而AI换脸与AI脱衣这类技术的结合,对女性的危害更是难以想象。

娱乐有风险,换脸需谨慎

生活在互联网技术飞速发展、信息爆炸的时代,普通民众是没有更多资格去对自己的隐私有所“敏感”的,除非你放弃对技术的使用。多少人口中喊着隐私保护、数据安全,身体却诚实地使用它,如同互联网对数据的渴求,在这种大环境背景下,是毋庸置疑且可以理解的。

但是,面对这些,法律却无能为力吗?

斯嘉丽·约翰逊在接受《华盛顿邮报》采访时,发表了自己对于deepfakes的愤怒看法。她表示,“每个国家都有自己的法律,即使你拥有自己形象图片的版权,在别的国家也不一行适用,面对充斥网络的AI换脸情色片,她和她的团队无能为力。”

技术宅们不仅仅是对女明星进行换脸,娱乐的对象甚至包括美国总统特朗普,有人曾将特朗普与影星尼古拉斯·凯奇进行了换脸。

Facebook工作人员为了警示社会,也开了一场假的“记者会”,他们与AI换脸后的特朗普进行视频连线交谈,在这一过程如果不是事先就知道是假的,没有人会怀疑视频的真假。

如果这项技术运用于政治威胁、敲诈勒索等犯罪事件,其以假乱真的程度会带来多大的恐慌?因此,对这项技术的管控似乎迫在眉睫。Twitter、Facebook以及Ins等互联网巨头纷纷采取措施。

在Reddit论坛上原讨论板块将全部被删除。新开辟的板块中,与deepfake相关的讨论区里,前面必须加上SFW(safe for work)的标签。

其中,被整治的最狠的就是P站,与其它平台保留部分无害内容相比,P站直接对AI换脸相关内容进行永久性的封杀。

图源:bilibili

美国众议院特别情报委员会主席在听证会上也公开表示,社交媒体应立即制定措施保护用户不被虚假信息所诱骗。

并且五角大楼投入了数千万美元来侦测AI换脸视频,美国国内也兴起了一批鉴定视频真伪的公司,但是这些措施对于肆虐的AI换脸虚假视频来说,根本就是杯水车薪的效果。

在这之前,美国加州签署了两项关于deepfake的新法令。一是规定在未来竞选总统的两个月内禁止发布使用竞选人头像的换脸视频,任何竞选人如果认为被deepfake技术伪造了视频,可以提出赔偿。

另一条则规定任何加州居民发现自己的肖像被deepfake技术用于色情片,就可以提起诉讼。

而在国内,对于AI换脸视频的相关法律条文的细节规定相对落后,目前并没有专门针对这方面的专门立法,但是也可以从一些大的法律条文进行约束,如未经本人统一而擅自使用他人照片、视频进行AI换脸的行为,存在侵犯他人肖像权、名誉权的可能,甚至会构成刑事犯罪。

在2017年3月,个人信息保护相关内容也被写入我国民法总则,同年6月,《中华人民共和国网络安全法》实施,包含保护个人信息的条目,最高法和最高检也出台了有关公民个人信息适用法律若干问题的解释。

图源:搜狐网

虽说AI换脸技术目前仍属于初步阶段,但是带来的影响却也有目共睹,发展的潜力令人无法预测与捉摸。面对一项新技术的出现与普及,也应该利用法律等措施来规避技术的风险。诚如大卫·汉密尔顿法官所言,法律必须致力于日益为技术和技术进步推动的社会生活。

  • 发表于:
  • 原文链接http://news.51cto.com/art/202002/610730.htm
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券