去世半个月后阿兰·德龙被AI换脸到赌场广告制作诈骗视频

8月18日，法国电影巨星阿兰·德龙去世，享年88岁，就在他去世半个多月后的近日，一条阿兰·德龙“出镜”的赌场广告在海外社交媒体广泛流传，取得了200万多点击量，目前被平台全面下架，但仍有相关视频在零星传播。

这条赌场广告视频使用了人工智能“深度伪造”技术，使用阿兰·德龙老年时期的影像和音频资料合成，仿真度非常高，视频中阿兰·德龙说到：“如果你看到这个视频，就说明我已经死了，但我决定把我的财产捐给法兰西人民”。他邀请观众点击广告中的现场赌场应用链接，承诺用户第一天就能赢4000欧。实际上阿兰·德龙从来没有录制过这一广告消息，广告中的内容也和演员本人没有关系。日前社交平台官方检测到了该条视频，平台方表示利用名人形象进行AI合成视频违反了平台规则，已全面下架该视频，平台已经建立了技术模型监控平台上所有发布的视频，检测其中是否有含深度伪造技术的AI视频。今年年初在该社交平台上曾一度疯传AI生成的歌手泰勒·斯威夫特的不雅照，引发舆论关注，为打击利用名人形象进行深度伪造，平台开始采取更严格的措施进行检测和识别深度伪造技术。

利用面孔信息使用人工智能深度伪造技术传播虚假信息的受害者不仅仅局限于像阿兰·德龙，泰勒·斯威夫特这样的巨星，9月1日，北京大学国家发展研究院李玲教授发布了一则打假声明，声明称近期网上出现了大量假冒自己推销医药书籍和治疗手段的视频，大多为AI合成的，在多个社交平台广泛传播，李玲已报警处理，并将采取法律行动追究策划、制造、恶意传播虚假视频者的法律责任，同时也提示所有人自己从未在任何平台推销过医药书籍和医疗产品，请大家不要上当受骗。

当下深度伪造技术被滥用于诈骗和色情行业，今年8月中旬外媒还曾曝光了一起诈骗犯利用AI马斯克骗走一名82岁老人超69万美元积蓄的恶性诈骗案件，AI马斯克不仅外貌、声音与真正的马斯克高度吻合，甚至还模仿出了马斯克标志性的南非口音，看上去极其真实。

深度伪造技术不仅发展速度快，更令人担忧的是使用的门槛越来越低，单纯依靠提升个人的分辨能力和防范意识似乎已不足够，除了强化个人防诈意识和警惕个人面孔等隐私信息的泄露外，还需要来自技术层面的识别检测和抵抗，在与深度伪造技术的攻防战上，人类还有很长的路要走。

扬子晚报|紫牛新闻记者 沈昭

校对 徐珩