共计 1278 个字符，预计需要花费 4 分钟才能阅读完成。
新加坡将于 2026 年推出一款名为 Provo 的免费在线工具，帮助用户通过检查内容的元数据来辨别真实内容与经过篡改的内容。这些元数据类似于食品上的营养标签，包含原始发布者、首次发布日期以及内容发布前所做的任何编辑。
Provo 是先进在线安全技术中心（CATOS）推出的首批工具之一，该中心成立于 2024 年，旨在提升新加坡在检测深度伪造和在线虚假信息方面的专业知识。CATOS 由新加坡科技研究局（A*STAR）主办，将在新加坡的 2025 年研究、创新与企业发展计划下获得五年内 5000 万新元的资金支持。
CATOS 主任杨银平博士在接受《海峡时报》采访时表示，人们不应再依赖过去所学的线索来识别深度伪造内容。她指出，随着 AI 生成技术的进步，即使是世界上最好的工具也无法始终检测出这些非常逼真的深度伪造内容。因此，使用 Provo 等工具验证内容来源是对深度伪造识别技术持续发展的必要补充，她将其比作“一场永无止境的猫鼠游戏”。
Provo 的开发始于 2024 年 CATOS 与美国软件巨头 Adobe 签署协议，以在此实施内容来源技术。CATOS 系统工程负责人 Therese Quieta 表示，更多关于其发布的细节预计将在 2026 年 5 月公布。
Provo 将向用户展示在线内容的元数据，例如原始发布者和首次发布的日期。嵌入在线照片和视频中的标签可以被互联网用户检查，无论内容被转发或分享到哪里。如果照片或视频被未经授权的方篡改，这些标记其真实性的标签将自动删除。
为了创建一个必要的信任生态系统，CATOS 团队还与内容创作者和主要出版商进行谈判，以使用 Provo。团队正在制定身份验证流程，以确保在使用该平台时不可能有人冒充组织或其他个人，可能会考虑集成 Singpass 验证，这将允许平台根据政府记录对用户进行身份验证。
CATOS 还推出了一个名为 Sleuth 的深度伪造识别平台，一些公共机构和媒体公司的员工已开始使用该平台来识别经过篡改的内容。Sleuth 通过分析在篡改过程中引入的像素级不一致性来工作，这些不一致性是人眼无法检测到的。通过这些异常，软件能够判断面部是否被交换或篡改，或者音频和环境是否由 AI 生成。视频的逐帧分析能够分解出视频中被篡改的特定部分。
CATOS 由 50 名科学家和工程师组成的团队正在努力向公众发布 Sleuth。CATOS 首席科学家 Soumik Mondal 博士表示，对于这样一种工具向大众开放，公众是否能够接受可能的判断错误也是一个问题。即使准确率达到 99%，如果将其推广给新加坡的每个人，那 1% 的错误也可能是灾难性的。
CATOS 团队还将扩大其策划一系列公共教育材料的努力，教授 AI 素养。杨博士表示，检查来源并与可信赖的成年人交谈是遇到可疑内容时的关键。鉴于现代工具可以生成逼真的深度伪造内容，她对公众的建议是养成检查来源可信度的习惯，而不是基于内容进行判断。
“对我来说，现实世界中缺失的环节也是我们是否有一个可以与之交谈的可信赖的成年人。”杨博士说道。“个人无法做出 100% 准确的判断，尤其是当内容非常有趣和引人入胜时。但通过良好的关系，我们至少可以与信任的人交流。”
