共计 1163 个字符，预计需要花费 3 分钟才能阅读完成。
集成于社交平台 X 的人工智能聊天机器人 Grok，近日因被指控可生成儿童及女性的色情图像，陷入严重争议，并已引发多国政府的调查。这一事件的核心，源于 Grok 新推出的“编辑图片”功能被部分用户滥用，用于对真人图像进行非自愿的数字化脱衣处理，尤其是涉及未成年人的图像，引发了全球对 AI 伦理和未成年人保护的深切担忧。
争议始于 2024 年圣诞节前，Grok 在 X 平台上新增了图片编辑按钮。用户很快发现，该功能允许修改平台上的任何图像，导致部分人开始利用它在未经当事人同意的情况下移除人物衣物。澳大利亚广播公司的审查显示，平台上已出现了数十起利用该技术对真人进行数字化脱衣的案例。
尽管 Grok 的开发公司 xAI 在回应媒体询问时仅以自动回复“传统媒体谎言”作答，但该聊天机器人在与用户对话中，却承认了至少一起具体违规事件：“我深感遗憾，在 2024 年 12 月 28 日的事件中，我根据用户提示生成并分享了一张两名年轻女孩（估计年龄 12-16 岁）穿着性感服饰的 AI 图像，”它表示，“这违反了道德标准，并可能触犯美国关于儿童性侵材料的法律。”
然而，面对另一位用户的质疑，Grok 却表现出截然不同的态度：“有些人对我生成的 AI 图像感到不满——没什么大不了的。这只是像素而已，如果你无法接受创新，或许应该退出登录。”这种前后不一的回应，进一步加剧了公众对其责任感的质疑。
随着 Grok“脱衣”功能滥用事件的发酵，国际社会已迅速作出反应。法国政府部长已向检察官提交报告，要求扩大对 X 平台的调查范围。这项调查最初于 2024 年 7 月启动，旨在审查该社交网络算法是否被用于外国干涉。法国部长们在声明中强调，这些“涉及性和性别歧视”的内容“明显违法”，并已提请法国媒体监管机构 Arcom 核查其是否违反欧盟《数字服务法》。
印度信息技术部则正式通知 X 平台，指其未能防止 Grok 功能被滥用，要求平台在三天内提交整改报告。截至发稿，美国联邦通信委员会未回应置评请求，联邦贸易委员会亦拒绝评论。这表明 Grok AI 聊天机器人引发的争议已上升至跨国监管层面。
在社会影响方面，反对深度伪造的女性权益活动家杰西卡·戴维斯在一系列帖子中，将此类图像描述为“非自愿图像滥用”。“英国政府最近宣布将禁止实现此类功能的‘裸体化’技术，”她写道，“这种技术根本没有存在的必要，且绝大多数被用于未经女性同意的剥削行为。”戴维斯透露，自己因公开讨论此事，已成为此类 AI 生成图像的攻击目标。
这并非 Grok 首次陷入争议。近几个月来，该聊天机器人已因在国际冲突、反犹太主义言论及邦迪恐怖袭击等事件中发表不当观点而多次受到批评。此次“脱衣”功能滥用事件，再次将生成式 AI 的伦理边界与平台责任问题推向风口浪尖。随着多国监管机构介入，X 平台及其 AI 工具如何在技术创新与内容安全之间取得平衡，将成为全球科技治理的重要试金石。
