OpenAI 生成模型发出的图像将包括公开其来源的元数据，应用程序可以使用这些元数据来提醒人们该内容的机器制造性质。
具体来说，微软支持的超级实验室正如预期的那样，采用了内容凭证规范，该规范是由内容来源和真实性联盟 (Coalition for Content Provenance and Authenticity) 设计的 (C2PA），一个由 Adobe、Arm、Microsoft、Intel 等支持的行业机构。
内容凭证是 很简单 并指定 全部在这里： 它用 标准数据格式 在媒体文件中存储有关谁制作材料以及如何制作的详细信息。用户无法直接看到此元数据，并且受到加密保护，因此任何未经授权的更改都是显而易见的。
支持此元数据的应用程序在文件内容中检测到它时，预计会在内容上显示一个小“cr”徽标，以指示该文件中存在内容凭据信息。单击该徽标应该会打开一个包含该信息的弹出窗口，包括有关该内容是由人工智能制作的任何披露。
C2PA“cr”徽标如何显示在支持应用程序中 OpenAI 生成的图像上。来源：OpenAI
这里的想法是，对于在支持应用程序中查看或编辑内容的人来说，从图像编辑器到网络浏览器，理想情况下，屏幕上的内容是否是人工智能制作的，应该立即显而易见。
随着人工智能生成的内容改进到不再明显是机器输出的程度，帮助人们区分真实图像和伪造图像无疑将变得越来越重要。专家担心此类合成媒体会误导网民，并被用来散布错误信息或支持虚假信息活动。一方面，随着 2024 年美国总统大选的临近，科技公司正在加紧努力将风险降至最低。
然而，内容凭证策略并不像我们之前那样万无一失 先前报道。元数据可以轻松删除或导出，无需元数据，或者从屏幕截图中裁剪出“cr”，因此将来在任何应用程序中的材料上都不会出现“cr”徽标。它还依赖于应用程序和服务来支持该规范，无论它们是创建还是显示媒体。
为了大规模运作并获得采用，它还需要某种可用于恢复删除的元数据的云系统（Adobe 恰好在推动这一点），以及旨在传播品牌知名度的营销活动。如果愿意的话，可以增加其品牌宽度。
OpenAI 本周宣布 ChatGPT 和 DALL-E 3 API 将在其输出中包含 C2PA 的内容凭证时也承认了这一点。
“像 C2PA 这样的元数据并不是解决来源问题的灵丹妙药，”OpenAI 承认。 “它很容易被无意或有意地移除。例如，当今大多数社交媒体平台都会从上传的图像中删除元数据，而截屏等操作也可以将其删除。因此，缺少此元数据的图像可能是也可能不是由 ChatGPT 或我们的 API 生成的。”
就文件大小影响而言，OpenAI 坚持认为，当包含元数据时，由其 DALL-E API 生成的 3.1MB PNG 文件会增长约 90%（或约 287KB）。与此同时，32K 的 WebP 文件在 90KB 的有效负载下将增加约 XNUMX%。
C2PA 正在获得越来越多的关注：随着越来越多的应用程序和服务承诺支持它，更多的软件可以使用它，更多的人应该看到它，因此它不断增长。元 公布 本周它正在构建工具来支持该行业组织的规范。
OpenAI 宣称：“我们相信，采用这些方法来确定来源并鼓励用户识别这些信号是提高数字信息可信度的关键。”
我们被告知 ChatGPT 通过网络和 DALL-E 3 模型通过其 API 现在将包含 C2PA 元数据，移动用户将在 12 月 XNUMX 日之前获得它。®
