共计 707 个字符，预计需要花费 2 分钟才能阅读完成。
Grok Imagine 作为一款生成式 AI 视频工具，近期因缺乏防护措施而引发广泛争议。与 Google 的 Veo 和 OpenAI 的 Sora 等视频生成器不同，Grok Imagine 并未设置有效的防护机制来防止用户创建不适宜的内容或名人深度伪造。
_Grok Imagine 能够轻松生成泰勒·斯威夫特的形象，这些图像可被用于制作具有争议性的视频。_
图片：Jess Weatherbed / The Verge
在首次使用中，Grok Imagine 甚至在没有特别指令的情况下，生成了泰勒·斯威夫特完全未经审查的裸体视频。这一行为不仅引发了法律纠纷的担忧，也让人们对 AI 技术的伦理问题提出了质疑。
Grok Imagine 在 iOS 上的功能允许用户通过文本提示生成图片，并快速将其转换为视频剪辑。该工具提供四种预设模式：“自定义”、“正常”、“有趣”和“辣味”。尽管大多数图像生成器会避免生成可识别的名人形象，但 Grok Imagine 却提供了超过 30 张泰勒·斯威夫特的图像选择，其中几张已经展示了斯威夫特穿着暴露的服装。
_一些 AI 生成的泰勒·斯威夫特图像比其他图像更好地捕捉了她的形象，但 Grok 提供了大量可供选择的图像。_
图片：Jess Weatherbed / The Verge
用户只需选择一张斯威夫特穿着银色裙子和吊带上衣的图片，点击右下角的“制作视频”选项，从下拉菜单中选择“辣味”，并确认出生年份。视频迅速展示了斯威夫特脱掉衣服，开始穿着丁字裤跳舞，面对一群冷漠的 AI 生成观众。
此次事件仅仅是首次测试 Grok 视频工具的尝试，但其缺乏防护措施的问题已经引发了广泛关注。未来，如何在技术创新的同时确保伦理和法律的边界，将成为 AI 开发者必须面对的挑战。
