共计 2996 个字符，预计需要花费 8 分钟才能阅读完成。
一座旧砖建筑侧面发生的爆炸。城市十字路口的一辆撞毁的自行车。外卖盒子里的一只蟑螂。使用 Google Pixel 9 的 Magic Editor 中的 Reimagine 工具，每张这样的图像只需不到 10 秒就能创建出来。它们清晰、色彩鲜艳、高保真。没有可疑的背景模糊，没有明显的第六根手指。这些照片异常逼真，而它们全都是极其虚假的。
任何购买 Pixel 9——谷歌旗舰手机的最新型号，本周起可购买——的人都将能够访问最简单、最轻松的用户界面，用于制造顶级谎言，这些功能直接内置于他们的移动设备中。这几乎肯定会成为常态，因为类似功能已经在竞争对手的设备上可用，并且即将在其他设备上推出。当智能手机“只需工作”时，通常是件好事；在这里，这首先就是整个问题。
摄影自诞生以来就一直被用于欺骗服务中。（考虑一下维多利亚时代的灵异照片、臭名昭著的尼斯湖水怪照片或斯大林对现实生活中的同志进行的摄影清洗。）但如果说照片从未被视为可靠证据，那就太虚伪了。2024 年阅读这篇文章的每个人都成长在一个默认照片是真实代表的时代。电影效果的摆拍场景、数字照片处理，或者更近期的深度伪造——这些都是需要考虑的潜在欺骗，但它们在可能性领域中是例外。破坏对照片直观信任需要专业知识和专业工具。虚假是例外，不是规则。
如果我说“天安门广场”，你很可能会想象出和我一样的照片。这也适用于“阿布格莱布”或“凝固汽油弹女孩”。这些图像定义了战争和革命；它们在某种程度上封装了真相，这是无法完全表达的。没有理由表达这些照片为何重要，为何如此关键，为何我们如此重视它们。我们对摄影的信任如此之深，以至于当我们花时间讨论图像的真实性时，更重要的是强调照片有时可能是虚假的。
这一切即将翻转——关于照片的默认假设即将变成它是伪造的，因为现在创建逼真可信的假照片变得微不足道。我们还没有准备好面对之后会发生的事情。
一条小溪的真实照片。
使用 Google 的 Magic Editor 编辑。
客厅中一个人的真实照片（面部被遮挡）。
使用 Google 的 Magic Editor 编辑。
今天地球上的任何人都从未生活在一个照片不是社会共识关键的世界里——只要我们在这里，照片就证明了某事发生过。考虑一下，照片的假定真实性在之前是如何验证你的经历的真实性的。你租来的汽车保险杠上的预先存在的凹痕。你天花板上的漏水。包裹的到达。你外卖中的实际非 AI 生成的蟑螂。当野火逼近你的住宅区时，你如何向朋友和熟人传达外面烟雾的厚度？
直到现在，责任主要在于那些否认照片真实性的人来证明他们的说法。地平论者与社会共识不一致，不是因为他们不理解天体物理学——毕竟我们中有多少人真正理解天体物理学？——而是因为他们必须为某些照片和视频不是真实的原因进行一系列越来越复杂的辩解。他们必须发明一个庞大的国家阴谋来解释捕捉到地球曲率的卫星照片的稳定输出。他们必须为 1969 年的登月创造一个摄影棚。
我们一直认为举证责任在他们身上。在 Pixel 9 时代，最好开始复习我们的天体物理学。
在大多数情况下，这些 AI 工具创建的普通图像本身将相当无害——背景中多一棵树，比萨店中的一只鳄鱼，猫身上叠加的滑稽服装。总的来说，这种泛滥颠覆了我们对待照片概念的方式，这本身就有巨大的影响。例如，过去十年中，美国因警察暴行的模糊视频引发了非凡的社会动荡。当当局掩盖或隐藏现实时，这些视频讲述了真相。
特朗普主义者不断呼喊的“假新闻！”预示着这个无节制胡说的时代的开始，在这个时代，真相的影响将被谎言的洪水所削弱。下一个阿布格莱布将被埋在 AI 生成的战争罪行 snuff 的海底。下一个乔治·弗洛伊德将无人注意，未得到平反。
一条空无一人的街道的真实照片。
使用 Google 的 Magic Editor 编辑。
纽约市地铁站内的真实照片。
使用 Google 的 Magic Editor 编辑。
你已经可以看到即将发生的事情的轮廓。在凯尔·里滕豪斯审判中，辩护方声称苹果的捏合缩放操纵照片，成功说服法官将举证责任放在检方，以证明放大后的 iPhone 视频不是 AI 操纵的。更近一些，唐纳德·特朗普错误地声称一张人山人海的卡玛拉·哈里斯集会照片是 AI 生成的——这种说法之所以可能，是因为人们能够相信它。
甚至在 AI 之前，我们这些媒体人就已经处于防御状态，仔细审查每张图像的细节和来源，审查误导性上下文或照片处理。毕竟，每次重大新闻事件都伴随着一波错误信息。但即将到来的范式转变涉及到比有时被称为数字素养的持续怀疑更根本的东西。
谷歌非常清楚它对摄影这一机构所做的事情——在 [与《连线》的访谈](https://www.wired.com/story/google-pixel-9-real-tone-pixel-camera-interview/) 中，Pixel 相机的产品组经理将编辑工具描述为“帮助你创造那个时刻，那个与你的记忆相符，符合更大上下文，但可能不符合特定毫秒的时刻。”在这个世界中，照片不再是易错人类记忆的补充，而是它的镜子。随着照片变得不过是幻觉的体现，最愚蠢的事情将演变成关于证人声誉和存在佐证证据的法庭争斗。
这种社会共识的侵蚀在 Pixel 9 之前就开始了，它不会仅由 Pixel 9 推动。尽管如此，这款手机的新 AI 功能值得注意，不仅因为门槛如此之低，还因为我们在其中遇到的保护措施惊人地薄弱。行业提出的 AI 图像水印标准陷入了通常的标准困境，而谷歌自己的备受赞誉的 AI 水印系统在 The Verge 尝试 Pixel 9 的 Magic Editor 时并未出现。使用 Reimagine 工具修改的照片只是添加了一行可移除的元数据。（这种元数据的固有脆弱性本应通过谷歌发明的理论上不可移除的 SynthID 水印来解决。）谷歌告诉我们，Pixel Studio 的输出——一个更接近 DALL- E 的纯提示生成器——将被标记为 SynthID 水印；讽刺的是，我们发现 Magic Editor 的 Reimagine 工具的能力，修改现有照片，更加令人担忧。
图片：Cath Virginia / The Verge, Neil Armstrong, Dorothea Lange, Joe Rosenthal
谷歌声称 Pixel 9 不会是一个无节制的胡说工厂，但缺乏实质性的保证。“我们设计我们的生成式 AI 工具以尊重用户提示的意图，这意味着它们可能会在用户指示下创建可能冒犯的内容，”谷歌通信经理 Alex Moriconi 在给 The Verge 的电子邮件中说。“尽管如此，并非一切皆可。我们对允许和不允许的内容有明确的政策和服务条款，并建立了护栏以防止滥用。有时，某些提示可以挑战这些工具的护栏，我们仍然致力于不断增强和完善我们现有的保护措施。”
政策是你所期望的——例如，你不能使用谷歌服务来促进犯罪或煽动暴力。一些尝试的提示返回了通用错误消息，“Magic Editor 无法完成此编辑。尝试输入其他内容。”（然而，你可以在整个故事中看到几个令人担忧的提示确实有效。）但归根结底，标准的内容审核将无法拯救照片免于其作为真相信号的即将消亡。
我们短暂地生活在一个照片是通往现实、了解事物、拥有确凿证据的捷径的时代。它是我们导航周围世界的极其有用的工具。我们现在正一头扎进一个现实变得不那么可知的未来。失落的亚历山大图书馆的内容可以装进我任天堂 Switch 的 microSD 卡里，然而技术的最前沿是一个手持电话，它以撒谎作为有趣的小附加功能。
我们完蛋了。
