谷歌 DeepMind 推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。
该工具名为 SynthID，最初仅供 Google 人工智能图像生成器 Imagen 的用户使用，该生成器托管在 Google Cloud 的机器学习平台 Vertex 上。用户将能够使用 Imagen 生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。
在过去的一年里，生成式人工智能模型的巨大流行也带来了人工智能生成的深度假货、非自愿色情和版权侵权的激增。水印——一种将信号隐藏在一段文本或图像中以将其识别为人工智能生成的技术——已成为遏制此类危害的最流行的想法之一。
7 月，白宫宣布已获得 OpenAI、Google 和 Meta 等领先人工智能公司的自愿承诺，开发水印工具，以打击人工智能生成内容的错误信息和滥用。
在 5 月份的 Google年度 I/O 大会上，首席执行官 Sundar Pichai 表示，该公司正在构建其模型，从一开始就包含水印和其他技术。谷歌 DeepMind 现在是第一家公开推出此类工具的大型科技公司。
传统上，图像是通过在图像上添加可见的覆盖层或在其元数据中添加信息来加水印的。但谷歌 DeepMind 研究副总裁 Pushmeet Kohli 表示，这种方法很“脆弱”，当图像被裁剪、调整大小或编辑时，水印可能会丢失。
SynthID 是使用两个神经网络创建的。人们获取原始图像并生成另一幅看起来几乎与它相同的图像，但对一些像素进行了微妙的修改。这会创建一个人眼看不见的嵌入图案。第二个神经网络可以发现该模式，并告诉用户它是否检测到水印、怀疑图像有水印，还是发现图像没有水印。Kohli 表示，SynthID 的设计方式意味着即使图像被截屏或编辑（例如，通过旋转或调整图像大小），仍然可以检测到水印。
芝加哥大学教授本·赵表示，谷歌 DeepMind 并不是唯一一家致力于此类水印方法的公司，他一直致力于开发防止人工智能系统抓取艺术家图像的系统。类似的技术已经存在，并用于开源 AI 图像生成器 Stable Diffusion。Meta 也对水印进行了研究，尽管它尚未推出任何公共水印工具。
Kohli 声称 Google DeepMind 的水印比之前为图像创建水印的尝试更能抵抗篡改，尽管仍然不能完全免疫。
他补充道，不良行为者在破坏水印方面拥有既得利益，例如，声称深度伪造的内容是不存在的犯罪或事件的真实照片证据。
赵说：“试图将深度伪造图像宣传为真实的，或将真实照片怀疑为伪造的攻击者将获得很多好处，并且不会停止裁剪、有损压缩或改变颜色。”
尽管如此，Google DeepMind 的推出是一个良好的第一步，并且可能会导致该领域更好地共享哪些技术有效、哪些无效的信息，人工智能合作伙伴的人工智能和媒体诚信项目负责人克莱尔·莱博维奇 (Claire Leibowicz) 表示。
“事实上，这确实很复杂，但我们不应该因此而无所作为，”她说。
Hugging Face 初创公司的人工智能研究员 Sasha Luccioni 表示，这限制了它的实用性。她补充说，谷歌决定保留该工具的专有性，这意味着只有谷歌才能嵌入和检测这些水印。
“如果你在图像生成系统中全面添加水印组件，那么深度伪造色情内容等危害的风险就会降低，”Luccioni 说道
相关文章
