“ZAO”被约谈 AI换脸为何引发市场焦虑？

在经历了爆红——质疑——修改协议——道歉后，“ZAO”终是迎来了监管。

今日，工信部发布消息表示，就“ZAO”App网络数据安全问题开展问询约谈。消息显示，工信部对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。

ZAO虽然被监管约谈。但AI换脸的潘多拉盒子已经打开，如何防止AI换脸这一技术被不法分子所利用，对个体权益造成侵害，是日益迫近的问题

从深层次角度来看，“ZAO”背后支持的是AI媒体合成技术，突飞猛进的先进技术正在给社会带来新的监管难点，加强监管力度变得尤为迫切。“随着百万级别规模互联网用户涌入，不难想象，各大应用商店将涌现出一批换脸软件，‘黑产’也在暗中滋生”，西密歇根大学教授、深信科创创始人杨子江对“金融1号院”表示，“从场景而言，一是虚假广告，用名人换脸做虚假的广告代言，获得经济利益；二是电信诈骗，用社交网络素材制作虚假视频进行诈骗，获得经济利益；三是市场操纵，散播恶意的经济界名人视频与言论，做空或做多标的，达到经济目的。”

ZAO：

昨日致歉，还被约谈

消息显示，2019年9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，工信部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。同时，要进一步加强新技术新业务安全评估，切实采取有效措施，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。

上述消息中所称的“隐私协议不规范，存在数据泄露风险等网络数据安全问题”缘自 “ZAO”最初版本用户协议内容中的必要授权协议：用户上传发布内容后，意味着同意授予“ZAO”及其关联公司以及“ZAO”用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，“包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”，引发网友对自身肖像权、隐私权的担忧。目前，“ZAO”修改了其用户协议内容，在用户协议的开头部分增加了“特别提示”，但仍不足以打消网友的担忧。

不过就在昨日，“ZAO”在官方微博发表致歉信，表示“不会存储个人面部生物识别特征信息”。“ZAO”表示，在用户使用过程中，为保护肖像权不被冒用，“ZAO”设置了真人验证环节，整个过程仅为验证用户上传的照片是其本人，为确保用户的信息安全，“ZAO”不会存储个人面部生物识别特征信息。“‘ZAO’所呈现的‘换脸’效果，是根据用户提交的头像照片，按照用户选定的素材场景，通过后期技术叠加所实现的虚构图像，并没有采集任何个人生物识别特征。虚构图像能达到肉眼上近似，但并不是用户的真实信息。”

不过，即便是道歉。很多网友也并不买账。

“金融1号院”发现，对用户自发上传的视频，“ZAO”的用户协议第8条如此规定：“您使用‘ZAO’软件及相关服务时上传的文字、图片、视频、照片、音频、链接等不应侵犯任何第三方的知识产权、名誉权、姓名权、肖像权、隐私权等权利及合法权益，否则，我们有权在收到权利方或者相关方通知的情况下移除该涉嫌侵权内容。”换而言之，用户自身承担著作权风险，“ZAO”不负责任。

对此，网经社电子商务研究中心特约研究员、北京志霖律师事务所副主任赵占领律师在接受“金融1号院”采访时表示，“平台要求用户对其上传的内容进行授权，实际上是希望用户对于获取平台服务支付一定对价。‘ZAO’作为提供格式条款的一方，对于免除或者限制自己责任的格式条款，应采取显著、醒目的方式提醒用户注意。但该授权淹没在用户协议中，绝大多数用户根本注意不到。”

赵占领表示，用户对于其“ZAO”平台上所上传的内容，有的拥有版权、肖像权，或者从权利人处获得授权，但是有的并未获得权利人的授权。比如，用户 (可能)未经授权将影视剧的片段上传到平台，该行为构成版权侵权，“ZAO”对于用户的侵权行为是否承担责任一般根据通知删除规则来判断，即当权利人向“ZAO” 发出侵权通知后，“ZAO”应该及时删除侵权内容，但是“ZAO”对于用户上传的侵权内容属于明知或应知的除外。

“我国《著作权法》明文规定，影视作品的著作权由制片者享有，同时还享有保护作品完整权，即享有保护作品不受歪曲、篡改的权利。用户通过‘ZAO’平台对明星的头像进行更换，显然是对原影视作品的篡改，侵犯了制片人享有的保护作品完整权的著作权利。”赵占领进一步说道。

支付宝、微信：

AI换脸无法突破防线

目前，刷脸支付是很多人日常最普遍应用到人脸识别技术的地方。而由于刷脸支付关乎“钱袋子”，“AI换脸”的面世首先引发的便是人们对“钱袋子”的担心，更有用户因恐慌暂时关闭了支付工具的刷脸功能。

对此，“ZAO”在致歉信里提及到，“不会产生支付风险”。刷脸支付安全门槛极高，仅通过一张照片实现的“换脸”技术完全无法突破刷脸支付的安全系统。权威支付平台也均从专业技术角度，强调“换脸”完全不可能威胁支付安全。

“金融1号院”第一时间联系到支付宝、微信，均表示换脸软件突破不了“刷脸支付”防线。

目前，网上各类换脸软件有很多，但不管换的有多逼真，都是无法突破刷脸支付的，支付宝相关负责人对“金融1号院”回应道，“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情况。”

“此外，在进行人脸识别后，部分用户还需要输入与账号绑定的手机号进行校验，进一步提高了安全性。同时，支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作，开通之后才能进行支付，用户也可以随时关闭。而且，即便出现账户被冒用的极小概率事件，支付宝也会通过保险公司进行全额赔付。”上述负责人说道。

微信支付相关人士则对“金融1号院”表达类似观点，认为“换脸从技术上完全不会影响刷脸支付的安全性”。微信刷脸支付应用了腾讯业界先进的人脸识别技术、安全技术、金融风控等技术，全方位保障用户安全便捷的支付体验。

上述人士对“金融1号院”解释道：“一方面，微信刷脸支付采用业界领先的活体检测：使用3D结构光摄像头模组和活体检测技术，能够检测和识别脸部的深度信息，有效进行身份识别，保证用户支付安全。这里面的关键信息是，进行刷脸支付的必须要是活体才行；另一方面，线下设备使用刷脸支付，一般还须输入微信绑定的手机号进行验证；此外，微信刷脸支付出现账户冒用是极小概率事件，即使发生误识别，也可以申请全额赔付。”

技术滥用滋生“黑产”

加强监管势在必行

不过，目前，虽然在专业机构眼中，AI换脸不具备颠覆风控的水平，但其在普通人眼中足以“乱真”的效果，却不得不引起警觉。

换脸软件的背后是AI媒体合成技术，AI媒体合成技术是指利用机器学习的方法合成视频、图像及语音等多媒体信息。

据了解，深信科创在AI换脸检测、视频合成检测、造假识别这些领域积累了大量的研究和实践，推出AiMediaGuard的合成视频检测技术，针对此次“ZAO”风险隐患，深信科创也在第一时间对UGC产生的“ZAO”视频进行了检测。

AI媒体合成技术有三个主要特点，深信科创创始人杨子江对“金融1号院”解释到：

“第一个是合成的媒体信息可以假乱真。用一句话概括，就是可以让任何人说任何话，做任何动作。不仅肉眼无法分辨，目前也还没有完美的技术鉴别。这意味着在人工智能时代，眼见不再为实；

第二个是普及性。现在利用机器学习原理制作视频图片语音的工具已经可以免费下载。由于其有娱乐性及一定实用性，很多人已经开始使用；

第三个是其技术更新能力。由于媒体和成有正当使用场景及利益驱使，其技术发展非常迅速。迄今为止有近千篇论文发表。可以预见，AI媒体合成，将催生深度造假，会对社会造成巨大影响。”

滥用AI技术收集用户数据能够引发市场多重风险，对此，有法律人士呼吁应加强监管，服务提供方应遵守法律法规，用户应注重隐私信息保护。

网经社电子商务研究中心特约研究员、浙江垦丁律师事务所麻策律师对“金融1号院”表示，我国网络安全法规定收集、使用个人信息时应当公开收集、使用规则并经被收集者同意。而朋友圈一再出现的上传照片生成匹配画像的模式，很多都只是让用户直接上传照片，却没有向这些用户事先说明收集照片的业务合法性，甚至该类工具会直接调用用户微信昵称、姓名、头像等内容，从而生成比对照片。另外，这些工具也没有说明上传照片日后的用途，而事实上这些海量照片会成为这些工具的图片库，以作进一步的数据画像。“这些不事先公开收集规则并获用户同意的营销方式其实是严重违反个人信息保护的相关规定的，也无法保护用户日后对于该类照片信息的删除、撤回等权利，建议相关主管部门应当加以严厉查处。”

此外，麻策律师表示，广大用户网络服务提供者和其他企业事业单位在业务活动中收集、使用公民个人电子信息，应当遵循合法、正当、必要的原则，明示收集、使用信息的目的、方式和范围，并经被收集者同意，不得违反法律、法规的规定和双方的约定收集、使用信息。网络服务提供者和其他企业事业单位收集、使用公民个人电子信息，应当公开其收集、使用规则。

欢迎关注

《证券日报》金融1号院

编辑：周尚伃 值班主编：李文

终审：马方业/张志伟