共计 874 个字符，预计需要花费 3 分钟才能阅读完成。
近日，一项由斯旺西大学、林肯大学和以色列阿里尔大学联合开展的研究表明，人工智能已经能够生成与真实照片几乎无法区分的人物图像。研究团队利用 AI 模型 ChatGPT 和 DALL·E 生成了包括名人在内的高度逼真的虚构和著名面孔图像。
上方为真实人物照片，下方为 AI 生成的版本。图片来源：斯旺西大学
研究发现，参与者难以可靠地区分这些图像与真实照片，即使他们对人物的外貌非常熟悉。在四项独立的实验中，研究人员指出，添加对比照片或参与者对面孔的先前熟悉度仅提供了有限的帮助。
这项研究刚刚发表在《认知研究：原则与启示》期刊上。研究团队表示，他们的发现揭示了“深度伪造现实主义”的新水平，表明 AI 现在可以生成令人信服的真人虚假图像，这可能会削弱对视觉媒体的信任。
斯旺西大学心理学学院的杰里米·特里教授表示：“研究表明，使用 AI 生成的虚构人物面部图像与真实照片无法区分。但在这项研究中，我们更进一步，生成了真实人物的合成图像。”
“日常 AI 工具能够做到这一点，不仅引发了关于错误信息和对视觉媒体信任的紧迫担忧，还迫切需要可靠的检测方法。”
其中一项实验涉及来自美国、加拿大、英国、澳大利亚和新西兰的参与者，他们被展示了一系列真实和人工生成的面部图像，并被要求识别哪些是真实的。团队表示，参与者将 AI 生成的新面孔误认为真实照片的事实表明了这些图像的逼真程度。
另一项实验要求参与者判断好莱坞明星如保罗·路德和奥利维亚·王尔德的真实照片与计算机生成版本之间的区别。研究结果再次表明，个人很难发现真实版本。
研究人员表示，AI 生成真实人物的新颖 / 合成图像的能力为使用和滥用开辟了多种途径。例如，创作者可能会生成名人支持某种产品或政治立场的图像，这可能会影响公众对他们所支持的身份和品牌 / 组织的看法。
特里教授补充道：“这项研究表明，AI 可以生成大多数人都无法与真实照片区分开来的新面孔和已知面孔的合成图像。对一张脸的熟悉度或参考图像在发现伪造品方面帮助不大。这就是为什么我们迫切需要找到检测它们的新方法。”
“虽然自动化系统最终可能在这方面超越人类，但目前，判断什么是真实的是观众的责任。”
