给AI生成图像「加水印」，谷歌发布识别工具SynthID

机器之心报道

机器之心编辑部

你能看出图像是 AI 生成的还是真实的吗？

随着生成式人工智能的迅速发展，人们越来越关注 AI 生成内容带来的潜在风险。例如，人们可能会有意或无意地传播 AI 生成的虚假信息。特别是在图像生成领域，分辨 AI 生成的图像和真实图像显得尤为重要。

一些研究尝试用「加水印」的方法来分辨 AI 生成的内容。ICML 2023 杰出论文《A Watermark for Large Language Models》就针对文本生成提出为模型的输出添加水印。

现在，Google DeepMind 宣布针对图像生成推出一种添加水印的工具 SynthID，以识别 AI 生成的图像，目前 SynthID Beta 版已经上线。谷歌 CEO Sundar Pichai 和 Google DeepMind CEO 都转推介绍了 SynthID 工具。

SynthID 目前可以为谷歌的文生图模型 Imagen 生成的图像添加水印，并且在视觉上难以察觉。如下图所示，有无水印的图像看起来没有区别：

通过扫描图像中的数字水印，SynthID 可以评估图像是由 Imagen 生成的可能性。

SynthID 不会影响图像质量，并且即使在添加滤镜、更改颜色以及使用各种有损压缩方案（例如 JPEG）进行保存等修改之后，水印仍然可以被检测到。

在 SynthID 使用两种深度学习模型（用于水印和识别），这两种模型已在多个图像集上一起进行了训练，并针对一系列目标进行了优化。

目前，部分用户可以在谷歌的 Vertex AI 平台上对 Imagen 使用 SynthID 工具（Beta 版）。

视频：http://mpvideo.qpic.cn/0bc36iaamaaaveamb2ho4fsfb4wda3zaabqa.f10002.mp4?

值得注意的是，SynthID 并不能保证水印可以万无一失地抵御极端图像处理，但它提供了一种有前途的技术方法，使人们能够负责任地使用人工智能生成的内容。研究团队表示之后可能还会面向音频、视频和文本等模态推出类似的工具。

参考链接：https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid