Facebook悬赏1000万美元,打假AI换脸!

还记得去年在色情行业掀起一阵风暴的 Deepfakes 吗?通过 AI 神经网络和演员的照片,反复进行机器学习之后,就能让 AI 自动识别和替换掉影片里某人的脸部数据。

在PS摧毁了公众对图片的信任后,Deepfake正在摧毁公众对视频的信任。没有人想在互联网上看到自己的面孔说着自己没说过的话,许多针对个人的伤害,也因为影响不够巨大而投诉无门。

由 Deepfakes 产生的“恶”

2017 年,一名 ID 为 Deepfakes 的网友在 Reddit 网站上传了一段换脸视频,并在之后上传了一系列类似的视频;由于换脸视频涉及色情内容,并且侵犯了他人的隐私,引起了恶劣的反响。最终,Reddit 官方将 Deepfakes 封号。而作为报复,Deepfakes 也将换脸视频的 AI 代码免费公开。

随后,B站也掀起了一阵「万物皆可徐锦江」的热潮,比如雷神和海王,乃至很多的经典电影的片段都出现了徐锦江的脸,甚至其中还包括《新白娘子传奇》里的白素贞。这一次花式操作确实秀,也让更多人了解了什么是 Deepfakes 和 AI 换脸。

卓源科技了解到,近日刷爆朋友圈的换脸 app ZAO 更是大大降低了人们感受这项技术的门槛——不需要P图技术、不需要代码知识、不需要专业设备;仅需要一部手机,一张照片,就能快速生成换脸视频;效果逼真,动作流畅。而且,一旦用户上传自己的照片,并且同意该软件的用户协议和隐私协议,肖像权&隐私权就有可能面临着巨大的风险。

Facebook发起Deepfakes检测挑战赛

在AI换脸盛行的背景下,9月6日,社交网络巨头Facebook宣布计划出资1000万美元,与人工智能(AI)合作伙伴、微软以及学术界一道发起DeepFake检测挑战赛。

卓源科技了解到,这一挑战赛的目标是创建一个可用于训练模型的实质数据集,这些模型可以准确地检测DeepFake并报告。 DeepFake检测挑战赛将在康奈尔理工大学、麻省理工学院、牛津大学、加州大学伯克利分校、纽约州立大学和马里兰大学帕克分校的学者的支持下进行。

该挑战还将有一个排行榜,以确定顶级DeepFake检测系统。DeepFake的数据集将于12月在加拿大温哥华举行的NeurIPS会议期间发布。

为何发起Deepfake检测?

由深度学习或“DeepFake”驱动的图像和视频处理,代表了充满希望的新领域的一个奇怪而可怕的方面。

虽然这些高度精确的算法有很多有益的用例,但研究者和开发人员无法忽视其潜在的不良影响。 他们最大的担心是,恶意行为者可以利用这些系统通过制作“DeepFake”来传播虚假信息。

要想打击这些令人毛骨悚然的虚假作品,需要以毒攻毒。因此,Facebook委托研究人员生成逼真的深度伪造内容,通过这些数据集来测试检测工具的效果。

Facebook首席技术官Mike Schroepfer在宣布挑战赛博文中说:“DeepFake是一个不断演变的问题,就像垃圾邮件或其他挑战一样,我们希望通过帮助行业和AI社区联合起来,以取得更快进展”。

卓源科技专注于智慧建筑领域发展,兼顾智慧医疗、智慧管廊、智慧农业等领域,坚持“以人为本”的建设理念,注重智能化项目与城市环境、人文相结合,聚焦于智慧城市顶层规划,依托多年来在智慧城市领域的经验和优势,致力于为客户提供全方位高品质的专业服务,为打造智慧城市、建设魅力中国贡献力量。

欢迎关注“卓源股份”公众号,更多精彩内容等你来看~

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190910A0DAU600?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券