科技魔方

谷歌DeepMind推水印工具SynthID,隐形标记和识别AI图像

大模型

2023年08月30日

  文章概要:

  1.SynthID是一种可以为 AI 生成的图像添加隐形水印的工具,使其可识别为 AI 图像。

  2. SynthID 使用两种深度学习模型生成和检测水印,可抵御裁剪、变色等常见图像处理。

  3.DeepMind计划先在 Google Imagen 图像 AI 上使用 SynthID,如果成功可能推广到其他系统。

  最近,AI 生成的图像用于政治操纵(如此前AI生成的虚假特朗普被捕的照片)受到广泛关注。谷歌 DeepMind 推出一款名为 SynthID 工具,这是一种可以可靠地为 AI 生成的图像添加隐形数字水印的方法,识别出 AI 生成的图像。

  SynthID 使用两种深度学习模型,一种生成隐形水印,一种检测水印。该水印直接嵌入到 AI 图像的像素中,可以抵御裁剪、变色等常见的图像处理。DeepMind 声称,即使进行类似裁剪、滤镜、压缩等操作,SynthID 依然有效。

  Deepmind 在其博客上展示了案例,其中带水印的图像的一半看起来与未带水印的一半一模一样 。

  SynthID 输出三个级别的检测概率:检测到标记、未检测到标记或可能已检测到标记。

  DeepMind 计划先在 Google 的 Imagen 图像 AI 上使用 SynthID。Imagen 当前处于测试版阶段,如果 SynthID 使用顺利,未来可能推广到其他 AI 系统上。

  与 SynthID 类似的图像识别技术还有 MIT 计算机科学实验室开发的 PhotoGuard。但研究人员承认,裁剪、加噪声等操作可能会对系统造成干扰。

  AI 生成的逼真图像日益增多,对可靠识别 AI 图像的需求也在增长。SynthID 这类为 AI 图像添加数字水印的技术,可以成为鉴别真假的重要手段之一。

+1

来源:站长之家

延展资讯