在最初禁用该功能后,OpenAI 今天宣布有权访问DALL-E 2的客户可以上传人脸,以使用人工智能驱动的图像生成系统对其进行编辑。此前,OpenAI 只允许用户使用和分享逼真的面孔,并禁止上传任何可能描绘真实人物的照片,包括知名名人和公众人物的照片。
OpenAI 声称,对其安全系统的改进使面部编辑功能成为可能,因为它“最大限度地减少了深度伪造的潜在危害”,以及试图创造性、政治和暴力内容的尝试。
政策的改变不一定打开闸门。OpenAI 的服务条款将继续禁止在未经他们同意的情况下上传人的图片或用户无权上传的图片——尽管目前尚不清楚该公司历来执行这些政策的一致性。
无论如何,这将是对 OpenAI 过滤技术的真正考验,过去一些客户曾抱怨该技术过于热心且有些不准确。Deepfake 有多种形式,从假度假照片到饱受战争蹂躏的国家的总统。对每一种新出现的虐待形式进行问责将是一场永无止境的战斗,在某些情况下风险很高。
毫无疑问,得到微软和包括 Khosla Ventures 在内的著名风险投资公司支持的 OpenAI 渴望避免与 Stability AI 的Stable Diffusion相关的争议,这是一种不受任何限制的以开源格式提供的图像生成系统。正如 TechCrunch最近所写的那样,没过多久,Stable Diffusion——也可以编辑面部图像——被一些人用来制作色情的、非自愿的深度伪造,比如 Emma Watson。
到目前为止,OpenAI 已将自己定位为一个品牌友好、简洁的替代品,以取代不受限制的 Stability AI。由于围绕 DALL-E 2 的新面部编辑功能的限制,该公司维持现状。
DALL-E 2 仍处于仅限邀请的测试阶段。8 月下旬,OpenAI 宣布有超过 100 万人在使用该服务。
领取专属 10元无门槛券
私享最新 技术干货