“佳子公主泳装照”“佳子热舞”视频疯传,日本宫内厅就AI深度伪造表态:“将视情况联合警视厅等相关部门处置”。
围绕秋筱宫家次女佳子公主,社交媒体上正掀起新的风波。
AI生成的“佳子热舞”引发争议
问题核心在于滥用生成式AI技术制作的深度伪造内容。随着视频生成AI技术的进步,网络涌现大量以名人为模板的“伪造视频”引发争议。据皇室记者透露,在短视频平台TikTok上,已出现以佳子公主形象生成的舞蹈视频。
“今年1月起,某账号开始发布让佳子公主、悠仁亲王跳劲舞的AI视频,其中部分视频播放量突破70万次。虽然账号注明‘主要为AI视频请勿当真’,但在全球用户可见的平台发布此类伪造视频仍可能引发误解,已招致批评声浪。”
此外在图片社交平台Pinterest上,也出现让佳子公主身着泳装、紧身衣的AI生成图片,部分作品甚至未标注AI制作说明。
针对这些情况,宫内厅在接受问询时回应:
“我们已意识到生成式AI伪造图像的风险,若出现虚假信息传播等情况,将视需要联合社交平台运营商及警视厅等相关部门采取应对措施。”(宫内厅总务科负责人)
面对接踵而至的恶意内容,宫内厅似乎正面临棘手难题……