南财快评：ZAO的麻烦不是用户协议，而是deepfake技术带来的社会安全风险

导读：deepfake已经出现了很多受害者，尤其是一些年轻的女孩，

其最大的问题，是挑战了“眼见为实”，使得公众对事实真假都失去了信心，会带来巨大的社会成本。

来 源丨21世纪经济报道（ID：jjbd21）

作 者丨王新锐

编 辑丨李靖云

换脸应用程序ZAO的开发者一定没有想到，在用户换脸的短视频内容制造了一波朋友圈刷屏的同时，对于其用户协议和隐私协议的批评很快也刷了屏。如果他们预见到这一点的话，协议应该起草的更认真一些，至少没有那么明显且不合场景的抄袭。

然而笔者觉得，对协议条款的技术性批评，其实模糊了重点问题。其用户协议和隐私协议无疑写的都很糟糕，但也因为对肖像权授权的过于霸道，这些条款一旦进入司法程序，可以肯定会被判无效，或者在进入司法程序前就被相关监管机构要求整改。而视频内容目前可能存在的侵权问题，之后也完全可以通过商业合作取得授权来解决。ZAO这类利用深度学习技术换脸的软件，最大的问题还是大规模收集生物识别信息和“真假难辨”的deepfake给社会带来的安全风险，而这种风险目前被公众广泛低估，但实际上已经在不断带来严重的后果。

图/图虫

静态或动态的人脸信息（ZAO都会向用户收集）、指纹、虹膜都是典型的生物识别信息，属于个人敏感信息，由于其不可更改，一旦泄露或被滥用，都会给信息主体带来持久的影响。更通俗地说，这是一个魔鬼交易，为了一段自娱自乐的视频，用户交出了自己最重要的信息，且完全不清楚其可能的后果。

从糟糕的用户协议和隐私政策来看，ZAO的开发者也并没有严肃地思考过这个问题，而是秉承一种先把用户的数据收集过来再说的态度。这在国内也并不是第一个例子，之前也有不少类似的例子，甚至有在厕所里换取一包卫生纸，就要求用户进行人脸识别的情况。在安防、金融反欺诈等领域，人脸识别已广泛应用，但争议也不小，但毕竟是涉及公共利益，对收集者数据安全能力的要求也很高。而在泛娱乐场景，生物识别信息的收集，风险和收益极为不对称，仅以创新的理由大规模收集，是非常危险的。

另外一个问题影响面则更大，在国外被称作deepfake（深度伪造）,即利用人工智能技术尤其是deep learning(深度学习)技术制作仿真度极高的视频、音频，目前已达到以假乱真的水平，很多时候普通人几乎无法分辨真伪。

由于这一技术一开始就应用于色情和政治领域，在国外迅速引起了立法者的关注，如美国已经在联邦和州一级的立法程序中有所回应，加快了立法程序。除了各种名人以外，deepfake已经出现了很多受害者，尤其是一些年轻的女孩，仅仅是因为在社交网站上公布了一些照片，就被制作成了色情视频，并广泛传播；之后因此出现各类的诈骗，应该也都在预料之中。而其最大的问题，是挑战了“眼见为实”，使得公众对事实真假都失去了信心，会带来巨大的社会成本。

根据笔者的研究和了解，无论是生物识别信息的收集和利用，还是对deepfake的法律应对，国内的立法者和监管者都非常重视，在关于个人信息和数据安全的立法中有所回应。但立法和监管都有个过程，相比高速发展的科技有一定的滞后性，在这之前，也需要企业和公众对相关风险有更清晰的认识和克制。

（作者系北京市安理律师事务所高级合伙人）

21君

你又认为“ZAO”的最大“原罪”是什么呢？

本期编辑 黎雨桐

我在看，你呢？