下载有风险 “换脸”易出事

这两天，一个叫ZAO的AI换脸APP突然火爆全网。“仅需一张照片，出演天下好戏”，通过AI换脸“以假乱真”。你可以替莱昂纳多与Rose深情告白,也可以替沙溢在同福客栈施展葵花点穴……通过极其简单操作就可以满足“戏精”欲望。社交网络一时间充斥着各类换脸视频，仿佛全世界都在Cosplay。但是，爆红的背后，围绕数据安全、隐私风险等问题的质疑也随之而来：用户照片会不会被恶意篡改？会不会用作情色视频？会不会存在支付风险？视频素材是否拥有合规版权？

“换脸”有风险 个人信息或遭泄露

这款软件在苹果应用商店的标语为，“仅需一张照片，出演天下好戏”。该软件使用AI技术，将用户上传的照片，置入平台上用户所选择的影视片段之中，实现用户与“明星”的换脸。

对此，有用户在社交媒体上表达了对隐私泄露的担忧。如果被别有用心的人利用这个技术，盗取了用户换脸的信息，包括其它的个人信息，一旦匹配成功了，轻则是精准诈骗，重则的话有可能用户的账号、密码洞开 。这样一来，不仅“丢了脸”，还可能丢了钱。

法律专家 岳屾山：

这里面确实存在一定的安全隐患，这个软件如果被不法分子所掌握，就很可能造成危险。现在，国内很多应用在索要用户信息方面都很野蛮，过度要求用户提供信息，这是一个通病。用户在使用时要注意保护自己的隐私；开发者也应该遵法守法，按照法律的规定来收集信息；监管部门也要出手，对于不规范的行为及时予以制止，进行规范。

“换脸” 存在侵权的可能性

把AI换脸推上舆论风口浪尖的，还有对肖像权和版权的忧虑。

虽然该软件在使用过程中需要对肖像权进行验证，但是每张用户所上传的未经验证的照片都会拥有10次制作视频的机会。这意味着，用户有机会利用他人照片制作换脸视频，可能触及他人肖像权。

法律专家 岳屾山：

在这个软件的应用过程之中，版权问题是法律的底线，不能随便逾越。我认为这个软件的开发者是揣着明白装糊涂，他应该是明显清晰地知道里面有版权的问题，却把版权的锅甩给了用户，说这些是用户自己上传的，有问题由用户承担。看似他这个锅是甩了，实际上从法律的规定来看，平台明知道有侵权的视频存在，仍然进行播放和链接，他仍然要承担相应的责任。

AI换脸曾被利用制作淫秽视频

AI换脸技术被公众注意，还因为其先前被应用于制作淫秽视频。多家外媒曾报道。

“Deepfake”和“DeepNude”在国外引起的热议，据美国《纽约时报》报道，随着越来越多的人正在利用该技术制作名人的色情视频，AI换脸正在引起恐慌。英国《卫报》称，此类软件是“对未来可怕的一瞥”，显示了对人工智能未来可能造成的伦理问题的担忧。

爆款“躁”起来 防火墙更要“造”起来

显然，迅速“躁”起来的换脸应用里面的风险，也让用户迅速“糟心"起来。

而这不仅仅是这一个爆款应用面临的问题。当企业再“造”这类爆款应用时，应该更早地把防火墙“造”起来，而且要把防火墙“造”得更坚固。当然，光靠有着创造爆款冲动的企业还不够，更早介入的监管力量显然也是不可或缺的。而作为用户，看到这类“躁起来”的爆款，应用前请先确认安全风险，“稍安勿躁”。

1

9月3日工信部对ZAO进行约谈

截至发稿，“ZAO”App虽然下载热度仍居各大手机应用市场前列，但是其用户评分已由此前的4.6分，下降到2分左右。

苹果App Store应用市场

华为应用市场

发布：甘肃省公安厅政治部宣传处

编辑：展宁 星辰