4 月 3 日消息,最近网上出现了一些美国前总统特朗普被纽约警察逮捕的照片,引起了很多人的关注。然而,这些照片并不是真的,而是由人工智能 (AI) 技术生成的合成图像。
专家们提醒说,这些合成图像显示了一个新的现实:在重大事件发生时,社交媒体上可能会充斥着虚假的图片和视频,进一步混淆事实、误导公众,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。
据了解,这些“特朗普被捕”的照片是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特・希金斯用 AI 绘画工具 Midjourney 制作的。值得一提的是,Midjourney 近日以滥用为由暂停了免费试用,Midjourney CEO 和创始人 David Holz 在宣布这一决定时表示免费用户流量过大,试用遭滥用。
希金斯说,他想要把有关特朗普可能被捕的消息可视化,于是用 Midjourney 这款文本到图像模型生成了一些看起来很逼真的照片,并在推特上分享。
人工智能专家说,虽然制作和生成虚假图片的技术并不新鲜,但该领域技术的进步速度以及人们对技术的滥用值得关注。数字内容分析公司 Truepic 的穆尼尔・易卜拉欣说,“合成内容正在快速发展,真实和虚假内容之间的差距变得越来越难分辨”。
领取专属 10元无门槛券
私享最新 技术干货