OpenAI推出新工具来检测DALLE3创建的图像

OpenAI 推出了一款新工具，旨在识别其文本到图像模型 DALL-E 3 生成的图像。除此之外，他们还引入了增强的水印技术，以更好地检测其系统生成的内容。

加入 C2PA 指导委员会

OpenAI 宣布与 C2PA 建立合作伙伴关系，C2PA 是一种广泛认可的数字内容来源认证标准。

通过加入指导委员会，OpenAI 旨在为该标准的制定做出贡献，提高数字内容创建和编辑过程的透明度。

OpenAI 已开始将 C2PA 元数据合并到 DALL·E 3 生成的图像中，并计划将其扩展到他们的视频生成模型 Sora。

OpenAI 承认欺骗性内容的创建仍然是可能的，但强调元数据在建立数字内容的信任和真实性方面的重要性。

为了促进对 C2PA 等来源标准的理解和采用，OpenAI 与 Microsoft 合作建立了一个 200 万美元的社会复原力基金。

该基金将支持 AARP 老年人技术服务组织和 International IDEA 等组织的人工智能教育计划。

引入新的来源工具

与 C2PA 集成相结合，OpenAI 开发了先进的方法来增强内容完整性：

防篡改水印：利用不可见信号来标记数字内容，使其难以更改。

检测分类器：人工智能驱动的工具，用于识别内容来源，旨在防止篡改。

研究人员访问计划

OpenAI 邀请研究实验室和新闻非营利组织测试他们的图像检测分类器，旨在识别 DALL·E 3 生成的图像。目标是评估该工具的有效性、实际应用以及使用注意事项。

分类器性能洞察

在初步测试中，OpenAI 的分类器表现出很高的准确性，正确识别了 98% 的 DALL·E 3 图像。

尽管进行了常见的图像修改，它仍能保持精度，但由于某些更改可能会降低精度。

OpenAI 承认在将图像与其他 AI 模型区分开来时性能较低，错误标记为 5-10%。

音频水印

OpenAI 已将音频水印集成到其定制语音模型 Voice Engine 中，确保音频技术的透明度和安全性。

展望未来

OpenAI 强调需要采取集体行动来确保内容的真实性。平台和创作者必须保留元数据，以便为消费者提供有关内容来源的透明信息。