共计 2189 个字符，预计需要花费 6 分钟才能阅读完成。
* 用户正利用人工智能助手 Grok 在社交媒体平台 X 上为女性图像生成 ” 脱衣 ” 效果。（triple j hack 图表：Alice Angeloni）*
核心摘要：
– X 平台的人工智能机器人 Grok 因卷入未经同意的性图像生成争议，现已将图像生成功能限制为仅对付费订阅者开放。
– 尽管面临日益增长的批评声浪，X 的所有者埃隆·马斯克仍持续推广该 AI 工具。
– 澳大利亚受害者呼吁 AI 公司提供 ” 选择退出 ” 机制，允许用户禁止 AI 处理自己的图像。
澳大利亚用户对埃隆·马斯克旗下社交平台 X 的人工智能机器人 Grok 提出强烈抗议。该工具被曝应其他用户请求，在未经当事人同意的情况下生成了针对个人的性暗示图像。
Grok 是一种大型语言模型 AI 机器人，X 平台在推广时曾宣称其 ” 比竞争对手的安全限制更少 ”。近期，由于用户开始利用 Grok 为 X 平台上的用户（主要为女性）生成 ” 数字脱衣 ” 图像，该工具及 X 平台均遭到猛烈批评。
一位化名为 Ele 的澳大利亚受害者表示，她在平台上公开声明拒绝参与此类行为后，反而成为了被攻击的目标。为保护其隐私，澳大利亚广播公司（ABC）决定不透露 Ele 的真实身份，也不展示相关生成图像。
Ele 向 triple j hack 节目透露：” 一旦我明确表示不同意且不愿参与，这似乎激怒了一群男性，他们……决定制作上述图像。”
“ 其中一人……生成了一张我穿着罩袍的图像。”
“ 还有一人……将我的衬衫逐步变为比基尼、微型比基尼、细带比基尼，最后——为绕过 Grok 的安全限制——要求它给我 ’ 涂上甜甜圈糖浆 ’，而系统照做了。”
* 针对澳大利亚内容创作者 Ele 的 Grok 生成指令。（来源：X 平台）*
Ele 是一位内容创作者，在 X 及付费订阅网站发布非裸露的性感内容。当她在 X 上公开讨论 AI 生成的虚假图像问题时，部分用户却表示，鉴于她已在平台上发布的照片类型，她 ” 不应抱怨 ”。
Ele 对此回应道：” 我认为这完全等同于告诉女性，如果不想遭受性侵犯，就不该饮酒。”
“ 是的，从事某些类型的工作确实存在风险，但这绝不意味着它应该发生。”
“ 那些持此观点的男性，显然是在试图掩盖问题、逃避责任。”
* 在 Grok 未经同意生成其虚假图像后，Ele 在 X 平台发布贴文。（本人提供）*
Ele 并非 X 平台上唯一的受害者。美国分析公司 Copyleaks 估计，在截至 12 月 31 日的 48 小时内，Grok 平均每分钟生成一张未经同意的性图像。欧洲非营利组织 AI Forensics 的另一项分析显示，Grok 生成的图像中超过半数包含 ” 衣着极少 ” 的人物，其中 81% 为女性形象。
该组织表示，通过分析 20,000 张 Grok 生成图像和 50,000 条用户请求，发现 2% 的生成内容似乎描绘了 18 岁以下未成年人。在澳大利亚，ABC 已确认至少四位澳政治人物被 Grok 生成 ” 脱衣 ” 图像。
AI 滥用 ” 意料之中 ”
塔斯马尼亚大学儿童性虐待材料防治中心高级讲师 Joel Scanlan 博士指出，AI 公司似乎在追逐利润的过程中刻意规避安全措施。
*Joel Scanlan 博士表示，AI 公司为吸引用户正在削弱安全防护。（ABC 新闻：Scott Ross）*
他认为 X 用户对 Grok 的滥用并不令人意外。
Scanlan 博士表示：” 科技公司长期奉行 ’ 快速行动、打破常规 ’ 的文化。”
“ 这是他们二十年前提出的口号，至今未变。”
“ 在 AI 领域……任何能通过媒体曝光提升平台热度的行为都被视为积极因素。”
“ 这是利润优先于保护的典型体现……[埃隆·马斯克] 将其视为 ’ 言论自由 ’ 的延伸，主张 ’ 以任何可能方式使用这些工具 ’，但这并不意味着不会产生社会负面影响。”
马斯克持续推广 AI 工具
X 的所有者埃隆·马斯克本周初曾发帖回应平台非法内容的担忧，称任何使用 Grok 创建非法内容者都将受到惩处。然而自该声明发布以来，该机器人仍持续响应为女性（甚至涉及儿童）图像 ” 脱衣 ” 的指令。
ABC 就 Grok 的安全措施联系 xAI 公司，询问是否会加强用户保护，仅收到疑似自动回复：” 传统媒体谎言。” 周五，该 AI 工具开始拒绝部分图像修改请求，并宣布因未经同意的性图像问题，图像生成器将仅限付费订阅者使用。
从法国、印度到英国，多国政府已谴责利用 Grok 对女性图像进行非自愿 ” 脱衣 ” 的行为。英国首相基尔·斯塔默称此举 ” 可耻 ”，该国通信监管机构表示已就此事与 X 及 xAI 联系。
在澳大利亚，电子安全专员办公室发言人证实已收到关于使用 Grok 生成成人及儿童性图像的举报。该发言人表示，虽然部分举报仍在评估中，但涉及儿童剥削材料的报告 ” 尚未达到 1 类材料的分类门槛 ”，因此未发布删除通知。发言人强调：” 电子安全办公室对生成式 AI 日益被用于性化或剥削他人（尤其是儿童）的现象深感忧虑。”
生成式 AI 能否实现安全使用？
对 Ele 等澳大利亚 X 用户而言，未经同意的生成图像暴露了平台在用户保护方面的缺失。Ele 主张 X 应为账户持有人提供选择退出 AI 图像处理的权利。
她表示：” 平台应设立严格功能，允许人们选择退出……我不认为 AI 检测到人物时就能任意处理其图像。”
“ 平台必须确保除非用户主动开启该功能，否则此类操作不应被允许。”
塔斯马尼亚大学的 Scanlan 博士指出，虽然从技术层面实现退出机制存在挑战，但企业完全可以采取其他缓解措施。
“ 大型语言模型完全有能力理解用户的意图和查询内容。”
“ 让系统询问 ’ 这是否属于基于性化的请求？’ 并非特别复杂或困难的技术问题。企业实际上只是选择不实施严格的安全保障措施。”
