谷歌希望通过特殊徽章来打击深度伪造

短短几年间，人工智能生成的名人和政客深度伪造视频已从学术期刊的范畴扩展到主要社交媒体网站的热门页面。虚假信息专家警告称，这些工具与社交媒体平台紧张的审核团队相结合，可能会给本已充满争议的 2024 年选举季增添一层混乱和困惑。

现在，谷歌正式加入了一个快速发展的科技和媒体公司联盟，该联盟致力于标准化数字徽章，以显示图像是否使用生成式人工智能工具创建。如果广泛推广，由内容来源和真实性联盟 (C2PA) 牵头的“内容凭证”将有助于在互联网上传播的欺骗性人工智能生成的政治深度伪造不断增加的情况下增强消费者对照片和视频来源的信任。谷歌将于本月加入 C2PA 并成为指导成员，这将使他们与 Adob​​e、微软、英特尔和 BBC 处于同一公司。

在一封电子邮件中，谷歌发言人告诉PopSci ，该公司目前正在探索在其产品套件中使用该标准的方法，并将在“未来几个月”分享更多信息。该发言人表示，谷歌已经在探索将内容凭证纳入谷歌图片搜索的“关于此图片”功能。谷歌对这些凭证的支持可能会提高它们的受欢迎程度，但它们的整体使用仍然是自愿的，而不是任何具有约束力的联邦深度伪造立法。这种缺乏一致性为深度伪造创作者提供了优势。

什么是内容凭证？

C2PA 是一家全球标准机构，成立于 2019 年，主要目标是制定技术标准，以认证数字内容的最初创作者、地点和创作方式。早在 OpenAI 的 DALL-E 等广受欢迎的消费者生成 AI 工具获得发展之前，牵头发起内容真实性倡议 (CAI) 的 Adob​​e 及其合作伙伴就已经担心 AI 生成的媒体可能会削弱公众信任并在网上放大虚假信息。

这涉及到内容凭证的催化创作，内容凭证是公司和创作者可以选择附加到图像元数据上的小徽章，该徽章揭示了图像的创作者和制作时间。它还向观众揭示了数字内容是否是使用生成式人工智能模型创建的，甚至还揭示了所使用的特定模型的名称，以及它是否后来被数字编辑或修改过。

Content Credential 的支持者认为，该工具会创建“防篡改元数据”记录，该记录会随数字内容一起传输，并可在内容生命周期的任何阶段进行验证。实际上，大多数用户都会看到这个“透明图标”弹出，是一个小徽章，图像一角显示字母“CR”。微软、英特尔、ARM 和 BBC 也都是 C2PA 指导委员会的成员。

Adobe 总法律顾问兼首席信托官 Dana Rao 在发给 PopSci 的一份声明中表示：“随着数字内容成为事实上的沟通手段，再加上人工智能创作和编辑工具的兴起，公众迫切需要了解他们在家里、学校、工作场所等任何地方遇到的内容背后的透明度。 ”“在这个所有数字内容都可能是假的世界中，我们需要一种方法来证明什么是真的。”

看到使用内容凭证固定的图片的用户可点击徽章检查其创建时间以及此后可能发生的任何编辑。然后，每个新编辑都会绑定到照片或视频的原始清单，并随其在网络上传播。

例如，如果记者要裁剪一张之前用 Photoshop 编辑过的照片，那么对图像的这两项更改都会在最终清单中注明。CAI 表示，该工具不会阻止任何人截取图像的屏幕截图，但是，该屏幕截图不会包含原始文件中的 CAI 元数据，可能会向查看者暗示它不是原始文件。该符号在图像上可见，但也包含在其元数据中，理论上，这应该可以防止麻烦制造者使用 Photoshop 或其他编辑工具删除徽章。

如果图片上没有可见的徽章，用户可以将其复制并上传到此内容凭证验证链接以检查其凭证并查看其是否随着时间的推移而被更改。如果媒体在其生命周期的某个部分以不符合 C2PA 规范的方式被编辑，用户将看到“缺失”或“不完整”的标记。内容凭证功能可以追溯到 2021 年。此后，Adobe 已将其提供给 Photoshop 用户和使用 Adob​​e 的 Firefly AI 图像生成器制作图像的创作者。微软计划将该徽章用于其 Bing AI 图像生成器创建的图像。拥有 Facebook 和 Instagram 的 Meta 也宣布将添加一项新功能，让用户在其平台上分享 AI 生成的视频或音频时披露信息。Meta 表示将在“未来几个月”开始应用这些标签。

谷歌加入 C2PA 为何如此重要

谷歌参与 C2PA 意义重大，首先是因为这家搜索巨头在网上拥有巨大的数字足迹。该公司已经在探索如何在其广泛的在线产品和服务中使用这些徽章，其中最突出的是 YouTube。C2PA 认为，谷歌的参与可以让更多人看到这些凭证，这可能会让更多人意识到该工具是一种可行的数字内容验证方式，尤其是在政治深度伪造和操纵媒体在网上受到关注的情况下。拉奥将谷歌的合作描述为提高人们对内容凭证认识的“分水岭时刻”。

Rao 表示：“Google 的行业专业知识、深入的研究投资和全球影响力将帮助我们加强标准，以解决内容来源使用方面最紧迫的问题，并覆盖全球各地的更多消费者和创作者。我们相信，在 Google 等公司的支持和采用下，内容凭证可以成为我们所需要的：一种简单、协调、通用的内容理解方式。”

此次合作是在谷歌宣布将使用其 DeepMind AI Lyrica 模型创建的音频上附加 SynthID 数字水印三个月后达成的。在这种情况下，DeepMind 表示音频水印不应该被人耳听到，同样也不应该破坏用户的聆听体验。相反，它应该作为一种更透明的保护措施，以保护音乐剧免受人工智能生成的自身复制品的影响，或者证明可疑片段是真实的还是人工智能生成的。

Deepfake 造成的混乱可能会使本已充满争议的 2024 年选举雪上加霜

科技公司和媒体公司正急于建立可靠的方法来验证在线数字媒体的出处，因为虚假信息专家警告称，2024 年的选举周期可能会令人费解。共和党总统候选人唐纳德·特朗普和佛罗里达州州长罗恩·德桑蒂斯等主要政治人物都已经使用生成式人工智能工具互相攻击。最近在新罕布什尔州，人工智能语音克隆技术被用来让总统乔·拜登打电话给居民，敦促他们不要在 1 月初选中投票。该州总检察长办公室此后将自动拨号电话与两家总部位于德克萨斯州的公司联系起来。

但威胁并不仅限于选举。多年来，研究人员一直警告称，越来越逼真的人工智能生成的深度伪造图像和视频在网上的猖獗传播可能会导致一种被称为“骗子红利”的现象，消费者怀疑他们在网上看到的任何内容是否与表面上看起来的一样。律师、政客和警察已经错误地声称合法的图像和视频是人工智能生成的，以试图赢得诉讼或定罪。

内容认证可能会有所帮助，但它们缺乏效力

即使有谷歌的支持，内容凭证仍然完全是自愿的。Adobe 或任何监管机构都没有强迫科技公司或其用户尽职尽责地为其内容添加出处凭证。即使谷歌和微软确实使用这些标记来披露使用他们自己的特定 AI 生成器制作的内容，目前也没有什么可以阻止政治坏人使用其他开源 AI 工具拼凑深度伪造，然后试图通过社交媒体传播它。

在美国，拜登政府已指示商务部制定新的人工智能水印指南，并制定构建生成式人工智能模型的科技公司必须遵守的安全标准。国会议员已提议制定联邦立法，要求人工智能公司在所有人工智能生成的内容上添加可识别的水印，但目前尚不清楚这是否可行。

科技公司正在迅速采取措施，防止深度伪造，但距离美国总统大选不到七个月，专家们一致认为，令人困惑或误导性的人工智能材料可能会发挥一定作用。