首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

ZAO爆红:隐私、版权等存忧 AI换脸曾制作淫秽视频

“换脸以后亲妈都不认识了。”

近日,一款名叫“ZAO”的换脸软件在社交网络刷屏,其背后的陌陌公司也随之现身。用户在该软件上传个人照片,可实现与莱昂纳多、佟丽娅、李现、王俊凯等

明星进行换脸,“一键”进入这些明星出演的相关影视片段中。部分用户公开表示该软件实现换脸“新奇、好玩”。

ZAO在苹果应用商店的标语为,“仅需一张照片,出演天下好戏”,ZAO使用AI技术,将用户所上传的照片,置入平台上用户所选择的影视片段之中,实现用户与“明星”的换脸。但值得注意的是,AI换脸技术目前已被应用于影视、娱乐等各方面,甚至是淫秽视频。随着,ZAO的爆红,大家也开始关注其背后的隐私、肖像权、版权等相关安全性问题。

隐私可用于关联公司,肖像权、版权问题惹担忧

虽然ZAO“火了”,部分用户也在网络上公开表达了关于隐私、肖像权、版权问题的担扰。ZAO在用户协议中写到,“保护您的用户信息与个人信息是ZAO及其关联公司的一项基本原则,您同意,ZAO及其关联公司将按照本协议及《隐私政策》的规定收集、使用、存储、管理和保护您的用户信息与个人信息;若您不同意或无法接受《隐私政策》全部或者部分条款或者有疑问的,请立即停止使用ZAO提供的服务,您继续使用ZAO提供的服务将被视为接受”。

上述协议内容将意味着,ZAO将在用户同意的情况下,按照相关规定,收集、使用、存储、管理和保护用户信息与个人信息。不仅如此,用户协议还规定,“在您上传及/或发布用户内容之前,您同意或者确保实际权利人同意授予ZAO及其关联公司以及ZAO用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑”。

针对隐私条款中的关联公司部分,北京盈科(杭州)律师事务所律师方超强表明,(用户隐私信息等权益)给第三方使用,必须要有该用户的明确授权。新京报记者调查微信与今日头条的隐私协议发现,上述两款APP均有“若将用户信息转移至关联方或第三方,会征求用户明示同意”的表述。ZAO在隐私协议内文中提到,“我们不会与“ZAO”服务提供者以外的公司、组织和个人共享您的个人信息,但在获取明确同意的情况下共享:获得您的明确同意后,我们会与其他方共享您的个人信息”。

中国政法大学知识产权中心特约研究员赵占领表示,ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取足以引起对方注意的方式提醒用户注意。但是,目前ZAO授权条款淹没在用户协议的众多内容之中,绝大多数用户根本注意不到。

值得注意的是,每张用户所上传的,未经肖像权验证的照片都会拥有10次使用ZAO制作视频的机会,肖像权验证即用户在软件中通过手机摄像头进行人脸认证,这意味着,用户有机会上传他人照片,利用他人照片制作换脸视频。

北京盈科(杭州)律师事务所律师方超强称,根据合同原则,权利义务是相对应的,责任限定上传的用户有义务去获得相应的授权来确保上传的肖像权没有问题,但这个只是用户和平台方ZAO之间的合同义务,如果肖像权属本人没有给用户授过权,平台就用了这个肖像生成了相应的作品,比如一个明星的肖像被用户上传了,平台默认为用户上传是有权限的,从而做了商业性的使用,那么平台依然会构成肖像权的侵权。

但ZAO在上传照片时会提示,“提交上传(照片)后,ZAO会进行非公众人物验证和肖像权验证,确保符合相关法规才能使用”,新京报记者随机选用明星蔡徐坤在公开场合发布的照片进行测验,软件显示,“检测到公众人物,疑似侵犯公众人物肖像权,无法通过图片添加。”但,社交网络平台微博上却存在(自称)利用ZAO将明星李现换进明星张翰所出演的影视片段中的“成功作品”,实现李现与张翰的换脸。

同时,ZAO在版权声明中提到,产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。

但新京报记者了解发现,上传素材需要通过权限认证,用户需提交申请等待审核通过,同时并不能确定ZAO上的现有视频与表情包素材均符合版权要求。

赵占领还称,用户对于其ZAO平台上所上传的内容,有的拥有版权、肖像权,或者从权利人处获得授权,但是有的并未获得权利人的授权。比如,用户(可能)未经授权将影视剧的片段上传到平台,该行为构成版权侵权,ZAO对于用户的侵权行为是否承担责任一般根据通知删除规则来判断,即当权利人向ZAO发出侵权通知后,ZAO应该及时删除侵权内容,但是ZAO对于用户上传的侵权内容属于明知或应知的除外。

陌陌现身ZAO背后 爆款软件多昙花一现?

工商登记信息显示,ZAO的运营主体是长沙深度融合网络科技有限公司,由海南喵咖网络科技有限公司(下称:海南喵咖)全资持有,而后者股东为自然人王力、雷小亮,分别持股50%,王力为陌陌总裁、首席运营官,雷小亮为陌陌联合创始人。

据天眼查信息显示,海南喵咖的股权全部出质给北京壹六零二信息技术有限公司,后者为北京陌陌信息技术有限公司的全资子公司,北京陌陌为陌陌科技中国香港有限公司的全资子公司。股权穿透后,无论从实控人还是股权出质角度,ZAO都是隶属于陌陌公司的一款产品。对此,新京报记者求证陌陌方,其内部人士表示默认,但陌陌官方截至发稿还未正面回应新京报记者。

新京报记者了解发现,海南喵咖旗下还推出了哈你、是他、瞧瞧、Cue、赫兹、MEET等六款社交类产品,除了哈你和是他分别为两年前和一年前上线外,后四者均为今年推出的新款社交产品。试水新产品的背后,是陌陌自造产品矩阵的野心,去年开始,陌陌已经加大研发创新项目,推出一些自研的应用程序,同时公司也在外部寻求投资和收购机会。

不可忽视的是,近年,网络爆款社交产品层出不穷,但大多也只是“昙花一现”,运用照片就可制作与用户相似的虚拟小人的软件ZEPETO、用户上传照片就可以得到一张变老照片的软件FaceApp,部分用户向新京报记者反映“参加完这届朋友圈戏精大赛,就不想再用ZAO了”,未来爆款社交软件能走多远还是未知数。

AI换脸并不新鲜 曾被利用制作淫秽视频

ZAO在苹果应用市场的软件详情称,“使用AI技术换脸神器,仅需一张正脸照,让你体验时尚新潮玩法”。AI换脸技术被应用其实并不是新鲜事,早在今年年初,一段通过AI技术将《射雕英雄传》中朱茵脸部替换成杨幂的视频在网络引起热议。记者搜索发现,视频网站哔哩哔哩(B站)上存在大量AI换脸视频,且人气较高。其中,一个将蔡徐坤脸部替换成前网络游戏主播卢本伟的视频,播放量达到253.1万。

不仅如此,AI换脸技术被公众注意还因为其先前被应用于制作淫秽视频。多家外媒曾报道“Deepfake”和“DeepNude”在国外引起的热议,据《纽约时报》报道,随着越来越多的人正在利用FakeApp制作名人的色情视频,FakeApp正在引起恐慌。《卫报》称此类软件为“对未来可怕的一瞥”,显示了对人工智能未来可能造成的伦理问题的担忧。

新京报曾在先前报道中提到,国内也存在利用AI换脸技术制作淫秽视频的产业链。当时,网络安全专家张百川就曾提示,普通人可能不太容易学会“AI换脸技术”,但有人可能利用此项技术制成有类似功能的软件,“那么普通人只要在APP上传照片即可”。针对个人如何防范的问题,张百川说,“个人很难防范,如果你有照片在互联网上,就会有(被利用)的风险”。

ZAO明确表示,禁止用户随意上传和使用素材,并通过人工审核环节尽力保证ZAO上的内容不侵犯相关权利人的合法权益,尽力保证内容符合相关法律法规规定。同时针对淫秽色情信息,ZAO也在用户协议中提到,用户应对发布内容的真实性、合法性负责,不得直接或间接发布淫秽色情信息,“淫秽色情信息,其表现可能包括但不限于发布淫秽、色情内容,包括但不限于招嫖、寻找一夜情、性伴侣等内容;发布以色情为目的的情色文字、情色视频、情色图画等内容;长期发布与淫秽、色情内容擦边的或具有性暗示类的内容。”

新京报见习记者 程子姣 记者罗亦丹 白金蕾 编辑 程波 校对 王心

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190831A0BN9W00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券