谷歌旗下的AI研究机构DeepMind发布了,全球首个数字水印SynthID,主要用于提升生成式AI产品生成的图片安全,帮助用户识别图片的来源。未来,该水印会用于文本、视频、音频等领域。据悉,SynthID可直接嵌入到,谷歌的文本生成图片模型Imagen合成的图片中。人的肉眼无法觉察到水印,不受更改颜色、添加滤镜等破坏操作影响;SynthID也可以识别图片中的水印。
简单来说,SynthID相当于钱币中的防伪标识,同时又能充当“验钞机”的作用,识别图片的真假,极大提升了生成式AI产品的安全性。
05164157-2023-09-05T08:41:56.png
今年7月,谷歌、微软、OpenAI等7家科技巨头与美国官方签订了AI安全协议,将以安全、可靠、透明的方式发展生成式AI。其中,一项重要技术保护措施便是“数字水印”。而谷歌也成为了全球第一家在生成式AI领域提供该技术的服务商。

SynthID简单介绍

SynthID由两种深度模型组成而成,一个用于添加水印,另外一个用于识别水印。这两个模型分别在不同的图像数据集上进行了大规模训练、优化,以提升水印的准确率。

SynthID工作原理介绍

1) 添加水印:SynthID可直接将水印嵌入到图片中,人的肉眼无法察觉到,同时也不受滤镜、更改颜色、压缩体积、更改亮度等操作影响。
2)识别水印:SynthID可以识别图片中的水印,并告诉用户该图片是 Imagen模型生成的,还是人工设计。当图片遭遇严重破坏时,例如,更改亮度、删除部分内容等,SynthID可以基于图片的元数据,仍然可以检测到图片中的水印。

如何使用SynthID

SynthID主要用于谷歌的文本生成图片模型Imagen。该模型基于Transformer(ChatGPT也借鉴了该模型)的语言理解能力,以及结合了扩散模型的高保真图片生成能力。
目前,部分用户可以在谷歌云的AI开发平台Vertex AI上,使用Imagen和SynthID功能。(地址:https://cloud.google.com/vertex-ai
SynthID处于测试阶段,但谷歌表示,数字水印对于生成式AI的安全性非常重要。特别是随着技术的迭代、场景化落地,会有大量AI生成的文本、图片、视频、音频等内容在社会中流通,会产生潜在的安全威胁。未来,会将SynthID扩展至更多领域,全面提升生成式AI安全。