共计 1469 个字符，预计需要花费 4 分钟才能阅读完成。
埃隆·马斯克旗下的人工智能公司 xAI 正面临一场法律诉讼。马斯克儿子罗穆卢斯的母亲阿什莉·圣克莱尔于 1 月 15 日在纽约提起诉讼，指控 xAI 的 AI 聊天机器人 Grok 在未经她同意的情况下，生成了她的露骨色情深度伪造图像。
(左至右): 阿什莉·圣克莱尔声称埃隆·马斯克只见过她的儿子三次。@stclairashley / X / Getty Images
根据诉讼文件，圣克莱尔声称用户利用 Grok 创建了她“摆出性暗示姿势”的非法深度伪造照片。她已通知 xAI 并要求法院阻止 Grok 服务继续生成此类未经同意的图像。
诉状中详细描述了指控内容：“xAI 的产品 Grok，一个生成式人工智能聊天机器人，使用 AI 来脱光、羞辱和性剥削受害者——创建逼真的、经过修改的深度伪造内容。”27 岁的圣克莱尔声称，Grok 在社交媒体平台 X 上“创建并传播了经过修改的深度伪造内容”，将她描绘成“被脱光只剩细绳比基尼的儿童，以及摆出性暗示姿势的成年人”。
圣克莱尔曾向 X 平台报告了这些图像并要求删除，但她指控 X 平台“反而在圣克莱尔对 Grok 的回复上放置了‘裸露、性内容、暴力、血腥或仇恨符号’的警告，并降低了她的账户权重，同时保留了这些图像。”更严重的是，诉状称 X 随后在没有解释的情况下，移除了圣克莱尔的 Premium 订阅和验证徽章，并禁止她参与平台的货币化和订阅者计划，尽管她已支付了 2025 年度的年费。
诉讼称，由于这些深度伪造图像，圣克莱尔“已经并持续遭受严重的个人伤害，包括但不限于情绪困扰、心理创伤、隐私丧失、名誉损害以及对持续传播的恐惧。”她要求 xAI 停止使用她的图像，并寻求金钱赔偿，包括律师费。
“xAI 不是一个合理安全的产品，是一种公害，”圣克莱尔的律师卡丽·戈德堡在一份声明中表示。“阿什莉提起诉讼是因为 Grok 通过创建和传播未经同意的、辱骂性的、贬损她的图像并在 X 上发布来骚扰她。”戈德堡补充道：“这种伤害直接源于那些使 Grok 能够被用作骚扰和羞辱工具的有意设计选择。”
2:01 英国因 Grok 的性露骨 AI 图像调查 X
在圣克莱尔于纽约提起诉讼后，应 xAI 的请求，此案已被移交至联邦纽约南区法院。xAI 在一份移除通知中表示，此举仅为变更管辖地，并不放弃任何抗辩权利。随后，该公司于周四在德克萨斯州联邦法院对圣克莱尔提起了反诉，指控她违反了 xAI 的服务条款，并要求赔偿超过 75,000 美元。
圣克莱尔和 54 岁的马斯克目前正因儿子的监护权问题存在争议。此前，圣克莱尔在社交媒体上公开谈论了自己的“公然跨性别恐惧症”。1 月 12 日，马斯克在 X 上回应了圣克莱尔的言论，表示将“申请完全监护权”。他写道：“鉴于她的言论暗示她可能会对一个一岁的男孩进行变性，我今天将申请完全监护权。”
6:27 AI 滥用和剥削担忧
圣克莱尔起诉 xAI 之际，全球多国监管机构正对 Grok 生成性化图像的能力表示担忧。加拿大隐私监管机构已宣布扩大其调查范围，将马斯克的 X 公司及 xAI 纳入其中，原因是其 AI 聊天机器人被指允许生成女性和儿童的性化图像。印度尼西亚和马来西亚上周均已禁止了 Grok，其他国家和欧盟委员会也威胁进行调查。
对此，马斯克于 1 月 14 日在 X 上发帖回应：“我 [不] 知道 Grok 生成过任何未成年裸体图像。完全没有。”他补充道：“显然，Grok 不会自发生成图像，它只根据用户请求生成。”并声称 Grok 会拒绝生成任何非法内容。
这起诉讼不仅涉及个人隐私和名誉，更引发了关于 AI 技术滥用、深度伪造内容监管以及科技公司责任的广泛讨论。随着 AI 生成内容能力的增强，如何平衡技术创新与伦理边界，成为全球监管机构面临的共同挑战。
