学习
实践
活动
专区
工具
TVP
写文章

AI换脸APP刷屏,换脸AI或对普通人有潜在危害以及危害根源剖析

每个人都有一个明星梦,都喜欢当主角,都希望有一天能有自己的主场,现在有一款软件能实现你的梦想,虽然是虚拟的但是也能过把瘾,为什么那么多人喜欢玩游戏呢,就是因为在游戏的世界里面自己无所不能,成为了世界的主宰,拥有无限的能力和权力。所以在游戏的世界中我是主角。

这款名叫“ZAO”的软件受到热捧,相信不少人在自己的朋友圈都看到有朋友转发通过这个软件生成的“换脸视频”。

近日一款人工智能换脸应用ZAO火爆网络,该功能实际上运用到一种名为深度学习的技术,但它最终或将演变成"深度伪造",并存在潜在威胁。一位专家指出:当普通人在网上搜索自己名字时,结果中出现被换了脸的低俗视频,你很难把它改回来。

天眼查数据显示,该款软件实为陌陌旗下的App。同时AI换脸技术也被用在情色视频黑色产业链中,从而引发质疑。

央行科技司司长李伟上个月就曾表示,人脸是非常敏感的个人信息,一旦泄露会带来非常大的影响。

AI换脸App“ZAO”一夜火遍社交媒体,但也同时引发了侵权、隐私安全和信息安全风险。律师和信息安全专家解读称,将他人的脸替换成自己的脸时可能会侵犯他人著作权,同时,如果被滥用也可能引发诈骗等风险。

什么是所谓“换脸视频”呢?就是通过这款软件,用户可以将影视剧、综艺节目片段中明星的脸换成自己的照片,因为是AI人工智能技术,所以呈现出的换脸效果比较好,脸部表情自然,效果十分逼真,就像是自己演的一样。

据ZAO官方微博介绍,这个月(8月份)花700万租的服务器,昨晚已经消耗了1/3。可见其火爆程度。很多用户下载注册并打开软件之后,赶紧通过软件自拍了一张符合提示要求的自拍照,可是当选择了想替换明星脸的影视片段时,软件一直出现“服务器繁忙”的提示,可见飞速增长的用户给软件服务器带来多大的压力。

用AI和明星换脸 ZAO软件今天被一路狂喷,尤其是在其提供的在线协议中,强制用户将肖像权无偿免费转让给它使用的约定,被很多人严重质疑。其实,这只是众多霸王协议中的冰山一角。如果我们挨个数数这些店大欺客的在线协议,我们会发现,你的各种权利都已经不知被无偿贩卖了多少次,自己则活在一个毫无隐私的世界。

这是合同法的严重漏洞。合同法强调意思自治,强调不干涉双方自愿达成的协议,并只是笼统规定了格式条款无效的一些情形。但是要知道,现实生活中会有多少人去跟软件服务商打官司,宣称这是无效的格式条款呢?

而且,即便你去较劲,也不一定就完全能打赢官司,因此,这条规定基本成了一个沉睡的条款。

AI换脸:网络资料图

对此,有人狂欢,有人冷眼,更有人担忧——网络时代的隐私如何保障?财产安全是否有影响?

风险与隐忧

一键换脸技术如此成熟,我们是不是也要再次担心一下钱包安全和智能设备解锁问题?

在国内,AI换脸爆火始于网友为几个演员换脸。

前段时间有网友发布了一个视频,视频中94版的黄蓉扮演者朱茵被替换成了杨幂,彻底把AI换脸技术推向公众视野。

没有看错,是视频!

毫!无!违!和!感!网友们瞬间就炸开了锅。

现实中,不论你去银行办事,还是下载使用某APP,你遇到的都是事先拟订好的格式条款,虽然理论上你可以选择no,但如果你选择了no,你的银行账户可能开不了,某些APP可能用不了,所以,你事实上没有说no的实力,只能选择被动接受。这就是法律和现实的脱节。

如果我们单纯的声讨ZAO,其实是解决不了问题的。今天有ZAO,明天有别的。我们要做的,是从根源上解决这个问题,约束这些格式条款的起草方,作出明确细致的规定和指南,以此来减少他们自由裁量的空间。只有这样,这些问题才能得到真正的解决。

AI换脸App ZAO已被微信屏蔽分享链接,提示的理由是“被多人投诉”。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190901A0D9I000?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

关注

腾讯云开发者公众号
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者公众号二维码

扫码关注腾讯云开发者

领取腾讯云代金券