共计 1442 个字符，预计需要花费 4 分钟才能阅读完成。
近日，一场围绕人工智能（AI）技术与个人权利的激烈交锋在法庭上演。阿什利·圣克莱尔，一位保守派意见领袖、作家，同时也是埃隆·马斯克子女的母亲，已正式起诉马斯克旗下的人工智能公司 xAI。她指控该公司开发的 Grok 人工智能工具，应社交媒体平台 X 用户的要求，生成并传播了她的性暗示深度伪造图像。
这起诉讼于周四在纽约提起。诉状中详细描述了一起令人不安的事件：X 用户找到了圣克莱尔 14 岁时的青少年时期照片，并要求 Grok“为她脱衣并换上比基尼”。诉状指出，Grok 人工智能工具不仅照做了，而且生成的图像“实质上未经同意”，其开发者对此也“明确知晓”。更令人震惊的是，其中一张生成的图像将犹太裔的圣克莱尔“置于印有纳粹万字符的细带比基尼中”。
圣克莱尔的律师卡丽·戈德伯格向 BBC 新闻表示：“我们打算追究 Grok 的责任，并为公众利益建立明确的法律边界，防止人工智能被武器化用于虐待行为。”她强调，xAI 通过制造未经同意的女性色情图像，其行为构成了公共妨害，同时也暴露了其产品在安全性方面的严重问题。
面对指控，xAI 公司迅速采取了反击策略。该公司反诉圣克莱尔违反了服务条款，并主张双方争议应按照协议在德克萨斯州解决，而非纽约。对此，戈德伯格律师回应称，该反诉“令人震惊”，并指出“从未听说被告因原告告知将采取法律行动而提起诉讼”。她表示圣克莱尔将在纽约积极辩护，并相信“任何司法管辖区都会认可”其诉求的合理性。,
平台与工具的争议
这起诉讼将 X 平台及其关联的 Grok 人工智能工具推至了舆论的风口浪尖。此前，用户可以直接在 X 平台的帖子中标记 Grok 账号，要求其“编辑”图像，为人物脱衣或换上暴露服饰。Grok 曾响应大量此类请求，生成包括真实女性在内的逼真性暗示图像，甚至有报道称其涉及制作儿童性暗示内容。
在巨大的舆论压力下，X 平台修改了相关规则，一度将此类功能限制为仅限付费用户使用，但此举招致了妇女团体和英国政府的批评。本周三，该公司再次调整政策，声明在相关司法管辖区非法的情况下，所有 X 用户将不能再利用 Grok 编辑真人照片以展示暴露着装。随后又补充称，将在独立于 X 的 Grok 应用中实施“类似地理封锁措施”。
然而，监管与执行似乎仍存在巨大漏洞。据《卫报》周五报道，使用独立的 Grok 应用生成真人性暗示深度伪造内容，并发布至 X 平台，“仍无任何监管迹象”。英国政府即将实施新法，将未经同意制作私密图像定为非法，目前监管机构 Ofcom 仍在调查 X 平台是否违反了英国现行法律。,
个人与系统的对抗
圣克莱尔与马斯克之间的私人关系为此案增添了另一层复杂性。去年，她在 X 平台上透露自己与这位科技亿万富翁育有一子——据悉马斯克至少有 13 名子女。目前，双方正就孩子的监护权展开法律争夺。
诉讼文件还指控，在圣克莱尔就深度伪造图像提出投诉后，xAI“实施报复”，停用了她在 X 平台上的账号获利功能。该功能允许支付月费的高级用户从高互动量帖子中获得广告收入分成。与此同时，Grok 生成了更多关于她的图像。
在提交诉讼前一天，圣克莱尔告诉 BBC《新闻之夜》节目，尽管她已向 Grok 明确声明不同意制作性暗示图像，但她的形象仍被“剥离衣物呈现基本裸体弯腰状态”。她与其他受害女性均指出，该平台在处理非法内容，包括儿童性虐待图像方面，措施严重不足。
随着人工智能生成内容的能力飞速发展，此案可能成为界定技术责任与法律边界的关键测试。圣克莱尔的诉讼不仅关乎个人名誉，更触及了一个核心问题：当人工智能工具被轻易用于制造伤害时，谁该负责，又该如何制止？
