共计 2684 个字符，预计需要花费 7 分钟才能阅读完成。
TrueMedia 评估一段内容。
TrueMedia.org
政治深度伪造视频有多普遍？大多数相对了解情况的公民可能会记得一些重要的合成政治内容，比如今年 1 月美国总统乔·拜登似乎给新罕布什尔州的选民打电话的“自动拨号”事件，[结果证明是由 AI 生成的合成声音](https://www.nytimes.com/2024/01/22/business/media/biden-robocall-ai-new-hampshire.html?searchResultPosition=1)。虽然人工智能（AI）深度伪造视频没有官方统计数据，但怀疑者可能认为它们并不常见，因为只有少数几个高调事件被广泛报道。
但是，一位 AI 学者表示，在 11 月的美国总统选举之前，AI 深度伪造视频可能正在上升——只是你并没有看到很多。
“我可以打一个赌注，赌一千美元，说我们将在 11 月看到前所未有的这些 [深度伪造视频]，”因为现在制作它们变得更容易了，上个月在接受 ZDNET 采访时，非营利组织[TrueMedia](https://www.truemedia.org/) 的创始人奥伦·艾兹尼说道。
TrueMedia 运行服务器，汇集多个基于 AI 的分类器程序，唯一目的是判断一张图片是否是深度伪造视频。该组织得到了优步联合创始人加勒特·坎普的慈善基金会 [CAMP.ORG](http://camp.org/) 的支持。
当用户上传一张图片时，TrueMedia 会生成一个标签，标签可能会显示“不确定”（黄色气泡）、“高度可疑”（红色）、或者如果 AI 模型有一定的确定性认为这不是深度伪造视频，则会显示一个绿色气泡和“真实”字样。您可以在 [这里](https://detect.truemedia.org/media/analysis?id=mkcSbVbL_mW-ugHI6ii75IjM8Ig.jpg) 查看演示并申请参与该项目的测试。
艾兹尼是华盛顿大学的教授，也是艾伦人工智能研究所的创始首席执行官，该研究所已经在检测 AI 生成的材料方面做了大量工作。
“我们看到试验，我们看到试探，我们看到人们正在筹备”今年晚些时候的选举，而且不仅仅是在美国，艾兹尼说道。
艾兹尼认为说目前“公开流传的深度伪造视频并不是很多”是正确的。然而，他补充说，实际上存在的许多可能被大众忽视。“你真的了解 [Telegram](https://www.zdnet.com/article/telegram-users-can-now-access-business-features-and-get-a-cut-of-ad-revenue/) 上发生了什么吗？”他指出，指的是这个私密通讯服务。
该创始人表示，TrueMedia 看到证据表明深度伪造视频制作者正在加紧准备，以在今年晚些时候选举季节加剧时大量生产。“我们看到试验，我们看到试探，我们看到人们正在筹备，”他指出——不仅仅是在美国。
为了做好准备，TrueMedia 建立了一系列能力和基础设施。该组织在潜在深度伪造视频上运行自己的算法，同时支付与之合作的初创企业，如 Reality Defender 和 Sensity，同时运行他们的算法，以汇集努力并相互核实发现。
首先，TrueMedia 调整了各种开源模型。“我们运行分类器，对每个潜在的深度伪造视频进行二元分类”，艾兹尼说。作为一个集合，这些分类器可以从每个模型中汇集答案——团队看到超过 90% 的准确性。
目前，TrueMedia 暂时不提供模型的源代码，也不公布技术细节或训练数据集。“目前我们对来源和方法持慎重态度，”艾兹尼说。“我们是一个非营利组织，所以我们并不打算创造任何专有内容——唯一的问题是，我们处于一个对抗环境中，这使得我们处于一个不寻常的位置。”
为了支持运行所有这些模型，TrueMedia 已经寻求初创公司 [OctoAI](https://octo.ai/company/about/) 的帮助，该公司由艾兹尼在华盛顿大学的朋友和同事路易斯·塞泽创立。OctoAI 擅长提高各种计算机芯片和系统的 AI 性能，运行一个云服务来平滑训练模型和提供预测的工作。希望运行 LLMs 等模型的开发人员可以将他们的模型上传到该服务，OctoAI 会处理其余的工作。
TrueMedia 及其合作伙伴预计深度伪造视频查询将呈上升趋势。“特别是随着选举日的临近，我们预计查询模型的量会相当大，”塞泽在接受 ZDNET 采访时说。
“我们最不希望的是在拒绝服务攻击下崩溃，或者因为我们没有正确设置自动扩展而崩溃，”艾兹尼说。据他称，TrueMedia 已经有数千用户。他预计，随着年底的临近，“全球几家领先的媒体组织将使用我们的工具，并且我们将轻松获得数万用户。”
那么 TrueMedia 如何知道他们是否产生了影响呢？“我们能阻止选举受到影响吗？”艾兹尼思索道。“你知道，你可以使用花哨的词语，比如‘保护选举过程的完整性’；这对我来说太过浮夸了。我只是希望这个工具能够提供。”
对于艾兹尼来说，目标是围绕深度伪造视频创造透明度和对话。TrueMedia 的内容标签是公开的，因此观众可以分享、比较和质疑他们的发现。这种额外的检查很重要：即使准确率超过 90%，艾兹尼承认 TrueMedia 的集成模型并不完美。“就像 ChatGPT 无法避免幻觉一样，我们也无法避免出错，”他说。
怀疑者会质疑一个没有公开源代码、没有公开训练数据集的非营利组织的影响力。为什么有人应该相信 TrueMedia 生成的标签？“我认为这是一个公平的问题，”艾兹尼说。“我们只有六周的历史，还有更多披露要做。”
尽管如此，艾兹尼强调 TrueMedia 的开放方法，与其他选择相比。“就结果而言，我们是一本开放的书，不像很多其他可用的工具是在幕后或出售的，”他说。
TrueMedia 预计将在未来几周内发布一份关于当前深度伪造视频状况的分析。“我们正在让人们更加批判性地思考他们在媒体中看到的内容，”他说。
