身处风暴中心,ZAO致歉了
某现象级APP又掀起了一阵热潮。
一夜之间,一款名为ZAO的AI换脸软件爆火,只要一张正脸照,用户就可以替换视频中人物的脸。
仅仅3天,从刷屏到下架,舆论快速反噬背后,一直被大家忽视的互联网隐私问题终于被重视起来。
身处风暴中心,ZAO今日道歉了,称不会存储个人面部生物识别特征信息,无支付风险。
“换脸”背后的技术藏着怎样的风险?
ZAO刷屏之后,让人们对技术的担忧不断加深。
“AI换脸”所用的技术deepfakes,是深度机器学习(deep machine learning)和虚假影像(fake photo)的缩写。
最早运用deepfakes算法的产品有一定的技术门槛,所以对国内用户来说,早期只是一些高级玩家们用它来修改影视剧中的角色。
事实上,只要训练一个 Deepfake,再从你的社交平台上扒张照片,就能制作你的视频,因此Deepfakes之前曾在全球引发争议。
“社会将开始怀疑他们看到的每一个视频或图像内容。”
Deepfake技术一旦泛滥,人们便再也分不清哪些视频是真,哪些视频是假。曾被认为最具有真实性的视频,再也不能当做证据。
某换脸视频
“ZAO”的出现和火爆,再次把AI技术带到了大众面前。AI技术虽然改变了人类的生活,造福了人类,但它极有可能会造成强大的破坏。
一方面,AI需要进行大量的训练,需要大量的数据作为训练的材料。这些数据,有可能是我们的声音,也有可能是我们的身份信息。
由此带来的隐私风险是不可估量的。
另一方面,更严重的是,AI有可能通过深度学习的方式,一步步威胁到人类的生存。
技术本无罪,但使用它的人可能心怀不轨
技术是无罪的,但技术背后的人却可能用它来作恶。
ZAO APP也是一样。
尤其在他们的用户协议中有这些内容的情况下:
在你同意使用这款App的时候,代表你同意它永久、不可撤销、免费地使用你的肖像权,而你对此完全不知情。
如果你要将某明星的脸换成你的脸,那你除了要把自己的肖像授权给“ZAO”,还要保证人家明星同意“ZAO”使用其肖像。
说白了,如果明星告“ZAO”侵犯了自己的肖像权,那“ZAO”可以直接甩锅给你,说是你侵犯的。就算它有错,判了它赔钱,它也可以再找你来赔偿……
总而言之,就是你今天在网上换脸很开心,很有可能,某一天你就接到一些投诉,被人指控是个诈骗犯。
是的,你的脸已经不仅仅是你的脸了,它也归zao,及它想授权的所有人。
——因为别人盗用了你的形象。
而你在无形中,也已经成了丑陋的侵权人。
技术本无罪,不应该成为滥用者的挡箭牌
ZAO如同打开了一个潘多拉魔盒,引发大众对于技术作恶的讨论。对于ZAO的道歉,有网友认为,不真诚,无诚意。“技术无罪”不能被滥用的人当成挡箭牌。
雷小亮是陌陌公司联合创始人兼游戏业务部总裁,负责陌陌游戏业务,王力则是陌陌公司联合创始人兼COO,负责陌陌的产品、运营等业务。
有句话叫“好奇害死猫”,互联网时代,信息的泄露和权益的侵害有时就在瞬间。
在尝到好奇味道之后,可能是无尽的麻烦、维权的艰辛甚至是惨痛的代价。