AI换脸软件的真正问题,在生物识别信息收集

紧急呼叫丨律师谈ZAO风险:你无法控制你的头像会被用于何处。我们视频。

这个周末,要论科技界谁风光无二?那应该非ZAO莫属。“逢脸造戏”的深度融合换脸技术概念,让这款APP在短短两天的时间内位列苹果应用商店免费榜和娱乐榜双第一,用户的火热追捧甚至让其服务一度宕机。

用户协议并非根本问题

在用户侧受到火爆追捧的同时,其用户协议的失衡引起了广泛关注。法律界对其一系列风险的批评更加全面,涉及的主要问题有肖像权、著作权、用户隐私和数据安全。

用户集中关心的,是用户协议中似乎挺“霸道”的一段话:“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于:人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权,以及利用技术对您或肖像权利人的肖像进行形式改动。”

但我认为,该条虽撰写的质量糟糕,但并非没有先例,也不至于造成严重的损害。在2017年几大知识问答类APP的用户协议中普遍存在同样的用户内容的授权问题,根据《合同法》第四十条规定:“提供格式条款一方免除其责任、加重对方责任、排除对方主要权利的,该条款无效。” 因此,该类条款在司法程序中被判无效的可能性极大。

而ZAO如此安排用户协议的原因亦有苦衷,一方面是ZAO希望以用户协议的方式将肖像权授权收于囊中,以免用户维权;另一方面是建立其对相关数据的合法权益的护城河,以应对互联网友商抓取数据、复制商业模式的不正当竞争,这点其实是更重要的。

8月31日晚,因被指“过度索取肖像权”引发争议,“ZAO”修改了此前的用户协议。在用户协议的开头部分增加了“特别提示”,这份提示指出,用户上传的短视频和人脸,将严格按照相关法律法规的规定保留在ZAO上。用户可以依据ZAO的平台规则撤回或删除上述内容,而在用户撤回或删除后,ZAO将依据相关法律法规在服务器上予以删除。

核心问题是对用户生物信息的收集使用

ZAO当前的模式在著作权层面也存在严重的问题。一方面,ZAO首页推荐的经典影视作品片段或明星动图的内容,如果未经权利人授权,则直接侵害了相关主体的著作权(明星亦可主张肖像权);另一方面,虽是用户上传并制作成视频的涉及影视作品片段或明星动图的内容,但ZAO依然有可能因未尽审核义务,而被认定为帮助侵权。

但著作权的问题并非互联网企业发展壮大的致命障碍,有些内容分发平台成立肇始也面对相同的问题,但只要能够快速发展,该问题通过商业合作不难解决,或通过事先采购,或通过诉讼程序。总之,这只是钱的问题。

实际上,落在用户身上真正的风险,既不是可通过诉讼或监管即可确认无效的用户协议或不合理的肖像权安排,也不是著作权侵权问题,而是用户一旦提供或让渡,即可能完全失控的“生物识别信息”的安全问题。

生物识别信息是指,基于人体固有的生理特性(如指纹、脸象、虹膜等)和行为特征(如笔迹、声音、步态等),可用于个人身份识别和鉴定的信息。而ZAO所用的深度伪造(Deepfakes)始于美国,其是AI深度学习应用于脸象识别和应用领域的一个分支。

而ZAO收集的静态和动态的脸象即是典型的生物识别信息,是其与指纹和虹膜同属敏感的个人生理特征信息。正因为其难为一般人所更改,所以被广泛用于身份认证、交易和支付环节,如该信息一旦泄露,势必给用户带来持久和难以消除的影响。

而公众担心的“换脸”软件威胁支付安全,正是基于这样的考虑。就此担忧,支付宝回应称,其使用的是3D人脸识别技术,网上各类换脸软件不管换的有多逼真,都是无法突破刷脸支付的。而媒体采访到的某银行网络金融负责人则表示,人脸识别技术在活体检测、视频攻击等方面存在一定风险;后台算法升级会使防控效果有一定提升,但是类似换脸的攻击威胁会一直存在。

大家应该还没忘记,四年前,两大国内科技企业(一个主打社交,一个主做硬件)关于用户指纹搜集所产生的争议。其时,人脸识别和支付尚未普及,指纹是用户登录和移动支付领域最为重要的应用客体。这两家企业对用户指纹数据的采集、存储位置等一系列问题的分歧,引发不少争论。

斗转星移不过数年,当一个纯粹娱乐应用的场景可以随意收集用户脸象的生物识别信息时,人们不禁要捏一把汗:当用户为了一时戏仿的欢愉,手指轻触、随着摄像头的启动,潘多拉的盒子也同时开启。

政策与监管都有滞后性,企业有囿于竞争而急于开辟新战场的压力,也有基于在大数据时代快速收集数据的冲动,若单方面期望其能持保守立场和克制冲动恐过于乐观。但无论是监管层、媒体还是法律人,都有义务告知用户,其为了短暂娱乐所交出的生物识别信息可能带来的巨大灾难。

换脸一时爽,一次换脸一世慌。

林蔚(北京达晓律师事务所主任)

编辑 李冰冰 校对 危卓

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190902A0A5QZ00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券