出品/创业公司报道
作者/陈小建
编辑/实习生助理
八月的最后一天,一款名叫“ZAO”的换脸app一夜成名。
早上一刷朋友圈,似乎全民都在Cosplay变脸。
简单来说,就是ZAO通过AI技术手段可以在短短几秒内将你照片上的脸替换到视频片段中的另一个人的脸上,融合效果几乎“以假乱真”,毫无PS痕迹。
有了Zao,每个人都可以成为“大片主角”。
ZAO有多火?
据报道,ZAO出自陌陌之手,早在8月初开始内测,8月30日下午才正式发布。
然而,截至8月31号11点,“ZAO”已经在苹果应用商店娱乐榜第2位,免费下载总榜第7位。·同时微信指数也暴增,以目前的人气趋势,ZAO的排名还会继续上升。
稍早,“ZAO”一度不能制作换脸视频,App内显示“当前制造任务已满,无法变脸。
一时间,ZAO的名声大燥。
ZAO的“deepfakes”曾用于不当用途被封杀
据小创了解, ZAO所使用的开源代码是“deepfakes”,而deepfakes早前曾被用在了情色电影的主角换脸,随后被封杀。
而换脸技术在国内火起来是在今年年初,一个名叫“换脸哥” 的B站UP主发布的一段94版射雕英雄传视频,将原本饰演黄蓉的演员朱茵的脸通过“deepfakes”技术替换成了杨幂的脸,从公开的视频和gif图片来看,变脸效果十分逼真。
其实,AI换脸技术deepfakes是一个技术上的进步,对于影视剧制作行业来说有很大的益处,引起了如此大的争议主要还是源于AI换脸“黑产业”的不断蔓延。
可惜,deepfakes被有心之人利用这项技术制作一些涉黄、涉政的视频或图片,例如AI换脸色情片,这些黑产的存在扰乱了市场的秩序。
据钱江晚报报道,目前AI换脸黑产已经在国内形成了完整的产业链,从下游成品情色视频、中游定制视频到上游软件及教程都有提供,有的卖家甚至提供全产业链产品和售后服务。
如此再来看现在ZAO,可谓是处于岌岌可危的状态。
小创认为,技术本身无罪,但是如何使用这项技术却是需要加以限制的,保证技术不滥用、设立合理的法律法规是规范市场、促进技术发展的最有效方法。
刷屏的ZAO换脸app 小心你的“钱包”
在小创看来,ZAO “变脸”虽好玩,但用户需要担心自己的隐私泄露和盗刷问题。
其中就有网友就表示:“需要验证手机号,还要直接上传自己的照片,没有注销功能,头像照片也没有清楚功能,感觉隐私泄露的风险非常大。”
还有网友表示,她相册中所有露脸的照片均被ZAO检测到了,疑似侵犯肖像权。通过ZAO分享到社交平台的视频可以下载,还有上传视频的用户近照,这也有被不法之徒利用的危险。
此外,小创在体验“ZAO”时也发现了一些细节问题,在“ZAO”App用户协议中的“必要授权”需要特别注意。
ZAO用户协议
其用户授权中提到:“在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予“ZAO”及其关联公司以及“ZAO”用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,以及“ZAO”及其关联公司可自行选择是否使用以及使用方式,包括但不限于将前述信息在“ZAO”及其关联公司旗下的服务平台上使用与传播,将上述信息再次编辑后使用,以及由“ZAO”及其关联公司授权给合作方使用、编辑与传播等。”
虽然,协议中也明确了“ZAO及其关联公司将尽最大努力在合理范围内使用上述内容,且您的必要授权并不代表“ZAO”及其关联公司对上述信息内容的必然使用”。但是,这不是绝对的。
所以,小创想说的是:不管你技术再强大,所有的技术都是有漏洞的,一旦黑客盗取了这些人脸数据,盗取个人账户,分分钟的事情。
比如你的银行卡、信用卡、支付宝、微信……
也许,当你通过ZAO变脸成别人的时候,你的“钱包”也正在变成别人的“钱包”。
AI凶猛,但愿我是错的!
领取专属 10元无门槛券
私享最新 技术干货