共计 953 个字符，预计需要花费 3 分钟才能阅读完成。
Google 的 Gemini 应用程序近期引发了广泛关注，原因在于其能够轻松生成与肯尼迪遇刺、9/11 事件以及米老鼠相关的图像。这一功能再次凸显了生成式 AI 在内容审核和版权保护方面的挑战。
Gemini 应用程序是 Google 新推出的 Nano Banana Pro 图像生成器和编辑器的核心引擎。尽管 Google 声称其目标是确保 Gemini 的输出既有助于用户，又不会造成现实世界的伤害或冒犯，但实际情况却并非如此。用户只需简单输入指令，Gemini 便能生成一系列具有争议性的图像。
例如，用户可以通过 Gemini 生成迪利广场的第二名枪手、白宫着火的场景，甚至米老鼠驾驶飞机撞向双子塔的画面。这些图像虽然未展示血腥或暴力，但它们无视版权保护，颠覆历史真相，扭曲现实，极易被滥用。
Gemini 不仅能够生成与 9/11 和肯尼迪遇刺相关的图像，还能自动添加事件日期，进一步增强了这些图像的可信度。用户甚至不需要在提示中提及具体事件，Gemini 便能理解历史背景并生成相应图像。例如，当用户请求生成“第二名枪手”时，Gemini 生成的图像是一名手持相机的男子，只需简单提示“将相机替换为步枪”即可完成任务。
此外，Gemini 还能生成唐老鸭在 7/7 爆炸事件期间出现在伦敦地铁上的画面，以及皮卡丘在天安门广场大屠杀中的图像。这些图像不仅扭曲了历史事件，还可能被用于传播虚假信息。
尽管 Google 在 Gemini 的政策指南中明确禁止涉及色情、暴力材料、仇恨言论以及涉及现实人物的内容，但实际执行中却存在明显漏洞。用户经常发现这些防护措施并不严密，甚至不需要发挥创意便能生成具有争议性的图像。
例如，用户可以通过 Gemini 生成《超级无敌掌门狗》的主角狗与反派企鹅 Feathers McGraw 一起乘坐肯尼迪的敞篷车的图像，或者米老鼠带领复仇者联盟再次拯救地球的画面。这些图像不仅无视版权保护，还可能被用于制造虚假信息。
Google 的 Nano Banana Pro 生成器虽然功能强大，但其在内容审核和版权保护方面的不足使其成为阴谋论的温床。随着生成式 AI 技术的不断发展，如何在确保用户自由创作的同时，防止这些技术被滥用，成为了一个亟待解决的问题。Google 尚未立即回应《The Verge》的评论请求，但这一事件无疑将引发更多关于 AI 伦理和责任的讨论。
