共计 3211 个字符，预计需要花费 9 分钟才能阅读完成。
随着美国大选的临近，网络上充斥着唐纳德·特朗普和卡玛拉·哈里斯的图片：记录了一次未遂暗杀的惊人照片，集会人群的平凡照片，以及候选人焚烧旗帜和持枪的惊人照片。当然，其中一些事情并没有真正发生。生成式 AI 图像工具如今如此精妙且易于获取，以至于我们再也无法完全相信自己的眼睛。
一些数字媒体领域的巨头一直在努力解决这一混乱局面，他们目前的解决方案是：更多数据——具体来说，是附着在照片上的元数据，告诉你什么是真实的，什么是假的，以及这种虚假是如何制造的。其中最著名的系统之一是 C2PA 认证，已经得到了微软、Adobe、Arm、OpenAI、英特尔、Truepic 和谷歌等公司的支持。这一技术标准提供了图像来源的关键信息，让观众能够识别图像是否被篡改。
“像内容凭证这样的来源技术——它们就像数字内容的营养标签——通过使官方活动照片和其他内容携带可验证的元数据，如日期和时间，或在需要时指示是否使用了 AI，提供了一个有希望的解决方案，”C2PA 指导委员会成员、Adobe CAI 高级总监 Andy Parsons 告诉_The Verge_。“这种透明度有助于消除疑虑，特别是在突发新闻和选举周期中。”
但如果所有用于验证图像的信息已经可以嵌入文件中，那么它在哪里？为什么我们在网上发布照片时看不到某种“已验证”标记？
问题在于互操作性。这一系统的实施仍存在巨大差距，而且需要数年时间才能让所有必要的参与者加入进来，使其运作。如果我们无法让所有人都参与进来，那么这一倡议可能会注定失败。
内容来源和真实性联盟（C2PA）是试图解决这一混乱的最大团体之一，与 Adobe 在 2019 年发起的内容真实性倡议（CAI）并肩作战。他们开发的技术标准使用加密数字签名来验证数字媒体的真实性，这一标准已经建立。但这一进展对于那些在网上偶然发现可疑图像的普通人来说，仍然令人沮丧地难以触及。
### 第一步：行业采用标准
- C2PA 等机构制定认证和归属标准。
- 摄影、内容托管和图像编辑行业的各方同意采用该标准。
### 第二步：创作者添加凭证
- 相机硬件制造商提供嵌入凭证的选项。
- 编辑应用程序提供嵌入凭证的选项。
- 硬件和软件解决方案协同工作，确保创作者能够确认图像的来源以及在编辑过程中是否 / 如何被修改。
### 第三步：平台和观众检查凭证
- 在线平台扫描图像凭证，并向用户明显标记关键信息。
- 观众也可以访问数据库，独立检查图像是否携带凭证。
“重要的是要认识到，我们仍处于早期采用阶段，”Parsons 说。“规范已经锁定。它很强大。已经过安全专家的审查。实施案例寥寥无几，但这只是标准采用的自然过程。”
问题始于图像的源头：相机。一些相机品牌，如索尼和徕卡，已经根据 C2PA 的开放技术标准嵌入了加密数字签名——这些信息包括相机设置以及拍摄图像的日期和地点——在拍摄照片的瞬间。
目前，这仅支持少数几款相机，包括新款徕卡 M11- P 或通过固件更新支持的现有型号，如索尼的 Alpha 1、Alpha 7S III 和 Alpha 7 IV。尽管其他品牌如尼康和佳能也承诺采用 C2PA 标准，但大多数尚未实质性实施。智能手机，通常是大多数人最容易接触到的相机，也缺乏这一功能。苹果和谷歌均未回应我们关于在 iPhone 或 Android 设备中实施 C2PA 支持或类似标准的询问。
如果相机本身不记录这些宝贵数据，重要信息仍可以在编辑过程中应用。像 Adobe 的 Photoshop 和 Lightroom 这样的软件，作为摄影行业中最广泛使用的图像编辑应用程序，可以自动以 C2PA 支持的内容凭证形式嵌入这些数据，这些凭证记录了图像如何以及何时被修改。这包括任何使用生成式 AI 工具的情况，有助于识别被虚假篡改的图像。
但同样，许多应用程序，包括 Affinity Photo 和 GIMP，不支持统一的、可互操作的元数据解决方案，这有助于解决真实性问题。这些软件社区的一些成员表达了希望它们能够支持的愿望，这可能会引起更多关注。Phase One，流行的专业照片编辑软件 Capture One 的开发者，告诉_The Verge_，他们“致力于支持受 AI 影响的摄影师”，并“正在研究像 C2PA 这样的可追溯性功能，以及其他功能”。
即使相机支持真实性数据，也不总是能传递给观众。一款符合 C2PA 标准的索尼相机拍摄了特朗普在暗杀未遂后举拳的照片以及似乎捕捉到射向他的子弹飞行的照片。然而，这些元数据信息并未广泛向公众开放，因为这些图像被传播的在线平台，如 X 和 Reddit，在图像上传和发布时不显示这些信息。即使是支持该标准的媒体网站，如_The New York Times_，在使用这些凭证验证照片后，也不会明显标记验证凭证。
除了让平台参与进来的最初障碍外，另一部分障碍是找出向用户展示这些信息的最佳方式。Facebook 和 Instagram 是检查内容是否符合 C2PA 标准的大型平台之一，但它们仅标记使用生成式 AI 工具篡改的图像——没有信息来验证“真实”图像。
_Meta 已经更新了其 AI 标签，但其平台目前不标记图像是否可验证为真实。_
Image: Meta
当这些标签不清晰时，也会造成问题。Meta 的“Made with AI”标签激怒了摄影师，因为它们被过度应用，似乎连轻微的润饰都包括在内。这些标签后来被更新，以淡化 AI 的使用。虽然 Meta 没有向我们透露是否会扩展这一系统，但该公司告诉我们，它认为“广泛采用内容凭证”是建立信任所必需的。
Truepic，一家真实性基础设施提供商，也是 C2PA 的另一成员，表示这些数字标记中包含的信息足以提供比平台目前提供的更多细节。“架构已经存在，但我们需要研究最佳方式来展示这些视觉指示器，以便互联网上的每个人都能实际看到并使用它们，做出更好的决策，而不仅仅是说某物是完全生成式 AI 或完全真实，”Truepic 首席通信官 Mounir Ibrahim 告诉_The Verge_。
X 目前不支持该标准，但埃隆·马斯克此前曾表示，该平台“应该可能这样做”。
这一计划的关键是让在线平台采用该标准。X 作为传播错误信息的温床，吸引了监管审查，不是 C2PA 倡议的成员，似乎也没有提供替代方案。但 X 的所有者埃隆·马斯克确实表现出愿意支持它。“听起来是个好主意，我们应该可能这样做，”马斯克在 2023 年 AI 安全峰会上被 Parsons 提出时说。“某种认证方式是好的。”
即使通过某种奇迹，我们明天醒来时，所有平台、相机和创意应用程序都支持 C2PA 标准，否认主义是一个强大的、普遍的，可能无法克服的障碍。如果人们只是忽视它，提供基于文档和证据的信息也无济于事。错误信息甚至可以完全没有根据，正如特朗普支持者轻易相信关于哈里斯 supposedly 伪造集会人群的指控，尽管有广泛证据证明并非如此。有些人只会相信他们想相信的。
但加密标签系统可能是我们目前可靠识别真实、篡改和人工生成内容的最佳方法。例如，在线 AI 检测服务等替代模式分析方法以不可靠著称。“检测充其量是概率性的——我们不相信你会得到一个检测机制，可以上传任何图像、视频或数字内容，并在实时和大规模上获得 99.99% 的准确性，”Ibrahim 说。“虽然水印可以强大且非常有效，但据我们观察，它不具备互操作性。”
然而，没有系统是完美的，即使是像 C2PA 标准这样更强大的选项也只能做到这么多。例如，图像元数据可以简单地通过截图被剥离——目前对此没有解决方案——其有效性还取决于有多少平台和产品支持它。
“这些都不是万能药，”Ibrahim 说。“它将减轻负面风险，但不良行为者总是会使用生成工具试图欺骗人们。”
