为什么谷歌的人工智能图像不可去除水印可能不会解决太多问题

谷歌的新水印技术无形地给人工智能生成的图像打上不可去除的水印，无法编辑、裁剪或以其他方式擦除。

来自 Google DeepMind AI 团队的SynthID将模式嵌入由 Imagen(Google 版本的 Dall-E)创建的图像中。这种模式可以被另一种基于人工智能的工具读取，但人类无法区分。与将文本覆盖在图像上的标准图像水印不同，它们还无法被编辑、裁剪或填充。水印是应对不断迫在眉睫的深度造假危机的一种方法，但正如您可能已经猜到的那样，有有很多问题需要解决。

“仅对人工智能生成的内容加水印并不能解决证明内容真实性的问题。大多数人工智能生成的内容将用于合法目的(例如广告)，而非人工智能生成的内容可能会被用来欺骗或欺诈(从品牌网站盗取的产品图像，用于在电子商务市场上销售非法商品)。我们需要的是一个适用于所有数字媒体的真实性生态系统。一个提供内容来源及其背景的生态系统数字水印 公司Digimarc的首席产品官Ken Sickles通过电子邮件告诉 Lifewire。

高水位线

水印的主要问题是它仅适用于已加水印的图像。这是非常明显的，但这也是这里的基本要点。如果您想在肮脏的选举斗争中创建政客的深度伪造照片，只需使用不为其输出添加水印的人工智能图像创建服务即可。

当前的另一个问题是每个人都在开发自己的人工智能图像标记标准。亚马逊、谷歌、Inflection、Meta、OpenAI 等都在致力于各种人工智能安全解决方案。在接受 The Verge 采访时，DeepMind 首席执行官 Demis Hassabis 表示希望 Google 的 SynthID 能够成为互联网标准，当然，所有其他大型科技公司人工智能部门的老板们也是如此。

让我们添加另一个复杂因素。C2PA使用密码学将一种“营养标签”嵌入人工智能生成的作品中。这些标记文件带有文件来源的人物、内容和位置，从而可以确定其来源。C2PA 由 Adob​​e、Arm、英特尔、微软和 Truepic 创建，该项目目前拥有1,500 多家公司附属，包括尼康、BBC 和索尼。图库摄影服务Shutterstock 已宣布打算使用 C2PA。

目前，C2PA 看起来比另一个短命的 Google 项目更有可能成为标准，这将是一个很大的优势。例如，如果 C2PA 变得像 JPG 格式一样普遍，任何人都可以在任何应用程序中打开任何图像，并能够查看其来源数据。

通用水印

任何类型的水印或标签要想发挥作用，就必须是通用的。每个人工智能图像生成器都必须将其检测系统嵌入到它生成的每个文件中。而且它需要是国际化的，这似乎不太可能。例如，居心不良的政府肯定会向其他国家的人们提供这些工具。

说到政府，要使这些系统达到任何有用的临界质量，唯一的方法就是强制实施它们。愤世嫉俗的人可能会认为，人工智能标记工具爆炸式增长的原因正是为了避免政府更多地参与其中。

好消息是，此类事情是有先例的。拿一张一美元钞票，扫描它，然后尝试打印一份副本。您可能无法做到这一点，这要归功于防伪系统(CDS)，该系统显然可以检测到(是的)钞票上的数字水印。该系统由 Adob​​e 在其 Photoshop 软件等中实现。

另一个也许更好的例子是EURion 星座，这是一种由五个环组成的图案，可以将其合并到文档中，以阻止通过软件和复印机中的探测器进行复制。

回到人工智能图像世界，一切都在快速发展，急于制造可检测的人工智能可能会产生一些有益的副作用。例如，人类创作者可以使用 C2PA 将他们自己的版权信息嵌入到他们的创作中。是的，我们一直能够在数字图像中添加版权信息，但它很容易被忽略或删除。

C2PA 以加密方式将其标签绑定到图像的像素，使其更难以删除。如果不出意外的话，这可能是人类告诉大人工智能我们不希望我们的创造物被输入到他们的机器学习模型中的一种方式。