当初玩得有多欢,现在卸得就有多快。
刷屏72小时以来,换脸app ZAO被曝霸王条款侵犯个人隐私,如今已沦落至人人喊打的局面。
刷屏72小时,ZAO迎来销号热潮
作为一款AI换脸app,ZAO兴于8月底衰于9月初,从刷屏到凉凉,前后仅三天时间。
目前,就连其分享链接也已被微信屏蔽,页面显示“网页存在安全风险,被多人投诉,为维护绿色上网环境,已停止访问”。
然而ZAO所面临的尴尬还不止于此,因涉及用户隐私安全问题,此前注册并使用过该产品的用户开启了一波注销卸载大潮,然而在注销的过程中网友也是槽点不断。
1.注销机制隐秘繁琐
在此前版本未更新前有用户发现,ZAO的注销按钮十分隐秘,需点开隐私协议拉倒最底端,会有一个注销账号的功能,然后根据页面提示方可注销,销号前最好删除所有的照片。
2.验证码输入无效
在注销过程中,会出现验证码错误,或者根本没发验证码的问题。想要验证是否注销成功,需要退出后重新登陆,若显示“您已注销账号,30天后可再次注册”便是成功注销。
3.“你已被踢出”
最后成功注销后,不止一个用户表示,页面显示“你已被踢出”,而非注销成功,此举给用户带来强烈的不适感。
综上所述,其过程繁琐到需要观看百度上的教程方可成功完成注销,对此ZAO官方微博表示:“十分理解大家对隐私问题的担忧。相应问题都已收到,考虑不周的地方会去改,需要一点时间。”
今日ZAO已进行了版本更新,官方显示更新内容为错误修复和体验优化。蓝鲸发现,针对用户反映的注销键隐秘的问题,官方做出了修改,按键已被置于显眼位置,除此之外,注销过程中遇到的问题也已被解决。
目前,“ZAO”在App Store的评分已由4.6降至1.9分,这可能是今年最火也是凉得最快的产品。
过度索取个人隐私,修改协议难消用户质疑
ZAO是一款AI换脸app,用户通过上传自拍,可以把多部经典影视剧主角的脸替换用户自己的脸。凭借着极强的娱乐性和互动性,ZAO在全网迅速爆红。
据天眼查资料显示,换脸APP“ZAO”的运营主体为长沙深度融合网络科技有限公司,成立于2017年9月20日,法人为雷小亮,注册资本5000万。
资料显示,该公司在2019年7月19日完成股东变更,北京陌陌科技有限公司退出,海南喵咖网络科技有限公司100%控股,雷小亮和王力两人各持股50%。
值得注意的是,雷小亮为陌陌联合创始人兼游戏业务部总裁,王力为陌陌总裁兼首席运营管,两人同为陌陌高管,由此可见,ZAO或是陌陌在泛社交领域的一次全新试水。此外细究产品可以发现,加好友互动可以解锁更多功能,对于ZAO而言,AI换脸的最终目的也是服务于社交。
陌陌的此次试水收获了奇效同时也遭到舆论危机,近日来最让人争议的莫过于用户条款中的一条隐私协议。
此前ZAO在“用户协议”第6条第1点中写道:用户上传发布内容后,意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”,“包括但不限于可以对用户内容进行全部或部分的修改与编辑(如将短视频中的人脸或者声音换成另一个人的人脸或者声音等)以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。
简单地说就是,当用户在使用AI变脸功能时,用户的肖像权就已被让渡出去。
业内人士表示,此项条款涉嫌过度索取用户个人隐私,并对公民个人信息安全构成了威胁。协议违反消费者权益保护法以及网络安全法的相关规定。
在被媒体曝光后,官方第一时间修改了协议内容,并增加了一段特别提示:上传的短视频及人脸等相关的内容将严格按相关法律法规的规定保留在“ZAO”上。除非为了改善“ZAO”提供的服务或另行取得用户的再次同意,否则“ZAO”不会以任何其他形式或目的使用上述内容。
除此之外,在第6条协议中,原有的上传肖像权可被“ZAO”“完全免费、不可撤销、永久、可转授权和可再许可的权利”等文字也已被删除。
从修改协议到修改注销流程,官方的一系列补救举措并未能缓解用户对ZAO的质疑,在体验过换脸功能后,更多的用户正忙着注销。
AI为何总是向恶?
事实上AI换脸并非新概念,早在2017年国外就实现了这一技术。
彼时,一个名为 Deepfakes 的匿名用户在某论坛上公布了一段代码,让不懂视频后期的用户也能轻松通过输入足够样本的图像供机器学习,以此换掉视频中人物的脸。
然而随着这项技术影响力的不断扩散,许多人利用这项技术制作一些涉黄、涉政的视频或图片,这些黑产的存在扰乱了市场的秩序。例如在色情行业中,以盖尔·加朵、斯嘉丽·约翰逊为首的好莱坞女明星深受其害,制作后的不雅视频被疯狂传播。
迫于压力,此项技术最终被禁止,但对网络黑产而言, Deepfakes 无疑是一门好生意。
类似于AI换脸的技术不止Deepfakes,今年7月蓝鲸在一篇名为《技术狂奔的时代,每天有数万人在利用AI脱去女性衣服》的文章中亦提到这一概念。
与Deepfakes相似的是,Deep Nude 是一款一键脱衣软件。用户只需在该程序上添加一张照片,借助AI神经网络技术,App可以自动“脱掉”女性身上的衣服。
该软件一出便如病毒一般在国外迅速扩散,被用户疯抢,最终也未免于遭关停的命运。
面对外界的质疑,开发者却表示,技术已经发展到这一步了,如果我不这样做,别人也会在一年内做出来。这个世界还没准备好Deep Nude的出现。
近年来,人工智能迎来飞速发展,但以技术之名作恶的案例时有发生,Deep Nude 和 Deepfakes 便是最好的印证,有了前车之鉴,ZAO又是否会成为下一个 “Deep XX”?
目前该产品仍在苹果商店免费排行榜中居首位,但评分已低至冰点。相比于那些日抛、月抛的“流星App”,ZAO给用户留下的最后映象或许不是换脸带来的乐趣,而是隐私被人工智能支配的恐惧。
END
领取专属 10元无门槛券
私享最新 技术干货