AI＋视觉乱象初现 生物识别技术不规范使用有何风险？

接连两家公司都因AI+图像引爆舆论关注。继换脸应用ZAO在媒体引发讨论热潮之后，9月2日下午，AI视觉独角兽旷视的一张路演照片在微博上流出，图片上展示着旷视的人脸识别技术可用于追踪学生的课堂行为，辨别学生的“听讲”“走神”“睡觉”等行为。

9月2日晚，旷视发布声明称，网传课堂分析图片为技术场景化概念演示，并称旷视的智慧学校解决方案可协助学校管理人员提升效率并保障学生安全，主要用于智能校门、教室门及宿舍的出入。旷视在声明中承诺，在人工智能技术的各种场景中，旷视会坚持正当性、数据隐私保护等核心原则。目前，最初上传图片的微博显示“暂无查看权限”。

另一款应用深度学习和图像识别的换脸APP“ZAO”，因用户协议中的“霸王条款”引来“众怒”，下载潮和卸载潮来得同样迅速。8月31日晚，ZAO在没有弹框提示的情况下，对用户协议中引发强烈争议的条款进行了修改，承诺用户上传的信息将被保留在“ZAO”上，不会在未获得用户授权的情况下将用户上传的视频和面部信息另作他用，且用户可以选择删除上传的短视频和面部信息。

但这并不能彻底打消用户的疑虑，用户关于隐私泄露和个人信息被滥用的恐慌被再次激起。针对换脸技术是否会威胁到刷脸支付的安全性，支付宝和微信都已先后声明，其刷脸支付采用3D人脸识别技术，且有手机号和密码双重验证，能够保证支付安全，即便发生误刷盗刷也可全额赔付。

9月1日下午，从ZAO分享到微信的链接已经被停止访问，页面显示“网页存在安全风险、被多人投诉，为维护绿色上网环境，已停止访问”。

两种应用引发的热议，都离不开用户对于个人信息被滥用以及人工智能被用于作恶的担忧。在寻找应用落地和变现场景的过程中，缺乏有效约束的AI应用正在走向灰色地带。

在最新的用户协议中，ZAO将原始版本中“您同意或确保肖像权利人同意授予ZAO及关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的使用“，删除了“关联公司、不可撤销、永久、可转授权和可再许可”等字眼。

但是，要求用户对上传素材的版权负责的规定不变，也不限制用户上传无版权素材，ZAO的做法仍然难逃“撇清责任”和“转移风险”之嫌。

AI换脸并不是一项新技术，更早版本换脸技术Deepfakes和Deepnude因被应用于色情和政治领域，而被各大网站封杀。换脸技术已被开源，潘多拉魔盒已然开启。

尽管ZAO采取了一些措施防范换脸技术被恶意运用，比如不允许使用公众人物肖像、同一个人每天只允许替换10次素材，并要求用户选择照片后进行人脸识别验证。但在这一过程中，ZAO得以进一步采集用户的动态面部特征。

9月3日，ZAO发布声明称，上传照片和换脸不会采集个人生物识别信息，而设置人脸识别的真人验证环节是为验证上传的照片是用户本人，“ZAO”不会存储个人面部生物识别特征信息。

面部识别特征，与虹膜识别、指纹识别一样，都属于个人“生物识别信息”，是个人敏感信息。

清华大学智能法治研究院研究员朱芸阳撰文指出，个人生物识别信息的唯一性，存在侵害个人隐私乃至危害个人人身和财产的巨大潜在风险，面部信息某种程度上“等同于要求每个人随时携带和展示带有个人照片的身份证”。而一旦人脸识别+活体校验被技术攻破，将直接导致现有社会安全系统验真环节失效。

过去一年多时间，AI视觉公司正在通过各种方式以更为便捷和廉价的方式获得面部信息。比如和各类大型会议主办方合作，免费提供进出入门禁的人脸识别系统，参会人员至今无法获知被录入和识别的人脸信息的主要用途。

8月21日，瑞典数据保护局（DPA）裁定瑞典北部的谢莱夫特奥市（Skelleftea）政府因违反《通用数据保护条例》（GDPR），对其处以20万瑞典克朗（约合20700美元）的罚款。具体原因是，当地一间高中运用人脸识别技术进行学生考勤的试验。这是GDPR首次在瑞典被引用并开罚。在试验中，学校与北欧IT服务和软件公司迭拓（Tieto）合作，使用签名、智能手机App和面部识别技术，追踪22名学生的活动长达3周。主要的检测指标是每个学生何时进入教室。

即使这一试验事前已获得家长们的同意，但瑞典政府认为，由于试验的受测者和实施者所掌握的信息过于不对称，因此推动这一试验的城市地方当局，仍遭到了瑞典政府的处罚。

除了对个人信息保护设定较高标准的欧盟GDPR（通用数据保护条例），美国也对搜集面部识别特征上做法谨慎。据朱芸阳介绍，目前美国已经有旧金山、马萨诸塞州的萨默维尔市通过了禁止在公共场所使用面部识别软件的法令，而奥克兰、纽约等城市也在考虑类似禁令，甚至在联邦层面也在考虑是否采取相应措施。

生物识别技术被不规范使用已引起行业头部自危。8月23日，支付宝发布《关于生物识别用户隐私与安全保护的倡议》，呼吁合作伙伴以及整个行业能在规范、合理的前提下为用户提供服务，并在隐私保护、安全保护、防止信息滥用等方面提出倡议，包括“对于储存用户信息的时长应建立规范和透明的制度”，“使用信息需考虑使用目的、范围是否具有必要性和合理性”。

APP“越权”搜集用户信息现象普遍

除了个人信息泄露问题，科技巨头在隐私条款上的刻意隐瞒也让市场担心。ZAO在用户协议中对隐私和肖像权规定“霸道”，此前一款能让人瞬间“变老”的修图软件FaceAPP爆火，隐私政策中默认平台可以“永久获取照片”的权限，而在国内的诸多修图软件，隐私条款中并未明确对用户照片储存和隐私权限的详细规定。

面部视觉等生物识别信息更为敏感，人工智能的加入使监管难度升级，这些都加剧了公众对个人信息管理失控的危机感，但事实上，APP“越界”采集用户个人信息早已不是新鲜事。

一名新经济财务顾问人士告诉财新记者，“所有的修图软件都有AI模拟变装画图功能，而这些功能都隐蔽存储了用户上传的照片”，他举例称，比如腾讯旗下天天P图的变装功能，再次使用时，会有上次使用的照片记录跳出来，意味着APP默认多次使用用户照片并进行更改，但这些内容并没有呈现在该软件的隐私协议中。

与换脸技术的迅速成熟和门槛不断降低形成鲜明对比的是，个人信息保护立法进程和监管手段更新只是小步前驱。互联网平台保护用户隐私的决心总因为商业利益而动摇，用便利和有趣等饵料诱惑，甚至变相强迫用户放弃隐私的做法仍比比皆是。

连标榜“将安全保障根植于产品，来保护用户隐私安全”的苹果也已经“沦陷”。近期，苹果被媒体爆出监听用户与Siri的对话录音，并将录音信息分发给外包商来分析Siri的反应并进行优化，但这一做法并未录入隐私政策并告诉用户。据《卫报》报道，已经泄露的内容甚至包括记录了用户的性行为的片段。

按《个人信息安全规范》要求，APP在搜集个人信息是，应对核心业务和附加功能加以区分，并分别获得用户同意，当用户拒绝提供附加功能需要收集的个人敏感信息时，平台方可不提供相应的附加功能，但不应以此为由停止提供核心业务功能。

但现实情况是，和ZAO抱有相同目的的开发者们往往“夹带私货”，在注册之初便一揽子向用户索要多种权限，如果用户拒绝授权，APP也往往拒绝开放核心业务功能。

今年1月以来，网信办联合工信部等部委成立APP专项整治工作组，开展APP违法违规收集使用个人信息专项治理，强制授权、过度索权、超范围收集个人信息被列入治理范围。今年5月，APP专项整治工作组还发布《APP违法违规收集使用个人信息行为认定方法（征求意见稿）》，界定APP搜集个人信息方面的违法违规行为，并要求企业自查自纠。

APP专项整治工作组今年5月披露《百款常用APP申请收集使用个人信息权限列表》，在10个大类26项个人信息相关权限中，平均每个APP申请收集数目达10项，金融借贷类、工具类APP或用户信息项目较多，超9成APP获取用户精准定位，要求用户一次性同意开启多个可收集个人信息权限，否则无法使用的做法更是普遍现象。单个APP中，360手机卫士搜集的权限数多达23项，其中用户不同意开启就无法使用的权限数多达11项。

7月16日，APP专项整治组通报40款存在收集使用个人信息问题的APP，人人贷、宜人贷、闪电借款、智行火车票、云集、富途牛牛、聊天宝、Soul等软件被点名，进一步整改结果尚未对外披露。此前还有10款中国银行、我爱我家APP被发现没有隐私协议，探探、猎豹安全大师等20款APP要求用户一次性同意多个个人信息权限，否则无法安装使用。

但一个显而易见的困难是，局限于检测和评估手段，对“越界”搜集使用个人信息的监管难免出现漏网之鱼。一名接近监管的人士告诉财新记者，每周都有违规收集用户个人信息的应用被处置，但实际情况是违规操作屡见不鲜，事后处置也难以跟上新APP冒头的速度，而下架等处置措施落实也主要靠行业自律。