共计 828 个字符，预计需要花费 3 分钟才能阅读完成。
近日，一段由谷歌新 AI 工具 Veo 3 生成的假新闻视频引发了广泛关注。这段视频中，一位新闻主播以专业且略带担忧的语气播报了一场快速蔓延的野火正在逼近阿尔伯塔省一个城镇的消息。然而，这段视频完全是假的，是由 CBC 新闻使用 Veo 3 生成的。
谷歌在上周的 I / O 大会上推出了 Veo 3，该模型具有更好的视觉质量、更强的物理理解能力，并且能够生成自己的音频。CBC 新闻通过输入提示“电视新闻主播描述一场快速蔓延的野火正在逼近阿尔伯塔省的一个城镇”，在五分钟内就生成了这段视频。
- 
- 
尽管这项技术令人印象深刻，但一些 AI 专家表示，它使得普通人更难分辨真假，这是一个令人担忧的问题。多伦多都会大学新闻学院助理教授 Angela Misri 指出，如果无法相信自己的眼睛或耳朵，因为 AI 正在制造虚假的现实，这将是一个令人不安的境地。
随着 AI 生成的视频变得越来越逼真，公众对视频证据可靠性的信任可能会下降，这将对新闻、政治和法律等领域产生深远影响。多伦多都会大学社交媒体实验室的新研究显示，大约三分之二的加拿大人至少尝试过一次使用生成式 AI 工具，而 59% 的人表示，由于担心新闻可能是假的或被操纵的，他们不再信任在网上看到的政治新闻。
谷歌有政策旨在限制人们使用其生成式 AI 工具的行为，但责任很快转移到了用户身上。CBC 新闻通过要求 Veo 3 生成一段加拿大某城镇的市长说他认为加拿大应该成为美国第 51 个州的视频，发现这段视频几乎立即生成了。
随着视频质量的不断提高，不良行为者造成伤害的潜力也在增加。正如科技媒体网站 Ars Technica 所指出的，问题不仅仅是 Veo 3 的视频和音频效果如此逼真，而是它们现在已向大众开放。通过付费订阅 Google AI Ultra，即可访问 Veo 3，这是谷歌最高级别的访问权限，提供其最先进的模型和高级功能。
我们正在见证媒体欺骗的民主化，曾经在好莱坞特效中花费数百万美元的东西，现在只需几块钱就能创造出来。这不仅对新闻行业构成了挑战，也对整个社会的信任基础提出了严峻的考验。
