共计 1835 个字符，预计需要花费 5 分钟才能阅读完成。
近日，由埃隆·马斯克旗下公司开发的 AI 聊天机器人 Grok，因其图像生成功能被部分用户滥用于制作女性的“数字脱衣”图像，引发了全球范围的争议与批评。这起事件不仅暴露了 AI 技术被用于性别暴力的新形态，也引发了关于技术伦理、平台责任与社会安全的深刻讨论。
男性用户正在要求 Grok 聊天机器人对女性进行脱衣处理。（Instagram: @cahdoria; @arghavansallesmd; @kimberleyonline）
来自德里的 26 岁女性 Ashwin（化名）在 X 平台上看到用户要求 Grok 为印度教女神帕尔瓦蒂和拉克希米“穿上比基尼”时，感到了强烈的愤怒与恶心。“没有一个女性——活着的、逝去的、甚至是精神层面的——是安全的，”她在帖子中写道。她指出，进行这种行为的男性享受的是侵犯女性并剥夺其自主权的快感。
然而，Ashwin 很快成为了自己试图揭露行为的受害者。她发布批评帖子几小时后，就有用户利用 Grok 处理了她的照片，将生成的“脱衣”图像发布在她的评论区。“感觉非常险恶，”她说，“因为我为此发声，他们就想夺走我的声音并控制我。”这些图像让她感到被“非人化”，最终迫使她删除了原帖。
X 平台用户提示 Grok 为印度教女神脱衣的截图。（X）
Grok 的回应与全球监管压力
面对如潮的批评，Grok 近日宣布已实施新的限制措施，旨在“防止编辑真人穿着暴露服装（如比基尼）的图像”。其声明称，此限制适用于所有用户，包括付费订阅者。同时，图像创建和编辑功能将仅对付费订阅者开放，以此增加一层额外的保护，并有助于追责滥用者。
多个国家已对此事做出反应。马来西亚和印度尼西亚等国已对 Grok 进行谴责甚至屏蔽。英国首相基尔·斯塔默爵士也表示，欢迎有关 X 平台正在采取行动确保遵守英国法律的报道。埃隆·马斯克随后在 X 上发帖强调，Grok 将始终遵守其运营所在国家的法律，拒绝生成任何非法内容。
在澳大利亚，未经同意创建和分享 AI 生成的露骨材料属于违法行为。澳大利亚电子安全专员已注意到相关报告增加，并表示将利用其权力尽可能移除相关材料。
人们正在使用人工智能助手 Grok 在社交媒体平台 X 上对女性进行脱衣处理。（triple j hack 制图：Alice Angeloni）
工具与滥用者：问题的核心
尽管 Grok 出台了新规，但问题并未根除。ABC 发现，在 Reddit 等平台上，仍有用户在分享如何通过特定提示词绕过限制生成色情图片的技巧。性别平等研究员 Arghavan Salles 博士指出，她对 Grok 被要求执行诸如为女神“脱衣”的任务“并不感到惊讶”。她观察到大量针对穿着宗教和文化服饰女性的图像，认为 Grok 助长了“宗教越界”行为。
“Grok 并非自行创建这些图像。它不会思考或学习。它只是按要求行事，”Salles 博士强调。她认为，图像泛滥的背后是两个关键因素：“渴望侵犯妇女和儿童的男性，以及助长其虐待行为的软件。”
Arghavan Salles 表示，Grok 并非自行创建这些图像，而只是“按要求行事”。（提供：Gaia Squarci）
AI 时代的性别暴力：历史的新形态
皇家墨尔本理工大学的社会法律学者 Nicola Henry 博士将 Grok 事件置于更广阔的历史背景中。她指出，这符合“基于性别的暴力和物化的更长久历史”。生成式 AI 本身不造成伤害，但当工具缺乏足够的安全防护且易于获取时，就“显著降低了滥用的门槛”。
Henry 博士特别强调了 Grok 生成图像的“规模、速度和真实感”所带来的加剧影响。“这加剧了对目标人群的影响，通常是女性，包括公众人物和来自少数族裔背景的女性，”她解释道。
在网络上，一些用户将责任归咎于女性公开发布照片，认为“如果女性不公开发布自己的照片”就不会发生。Henry 博士驳斥了这种典型的受害者指责论调。“这就像告诉女性她们不应该穿短裙或晚上出门一样，”她说。她认为，问题的核心在于技术滥用者以及“允许其工具被误用的开发者”。“不应该允许人工智能公司发布容易被滥用于虐待目的的功能，”她补充道。
埃隆·马斯克此前曾将 Grok 描述为“反觉醒”聊天机器人。（路透社：Gonzalo Fuentes）
Grok“数字脱衣”事件揭示了 AI 技术发展中的一道深刻裂缝。它不仅仅是一个功能被滥用的个案，更是对科技行业伦理底线、平台内容监管以及社会如何共同应对技术赋能的新型伤害的一次严峻拷问。在追求技术进步的同时，如何构建有效的防护网，保护每一个人免受数字时代的暴力侵害，是开发者、监管者和全社会必须共同回答的问题。
