共计 1086 个字符，预计需要花费 3 分钟才能阅读完成。
埃隆·马斯克旗下的人工智能公司 xAI 近期陷入国际舆论漩涡。其备受关注的 AI 聊天机器人 Grok，因被指控能够生成针对女性及未成年人的性化图像，正面临来自法国、印度等多国监管机构的介入调查。这一事件凸显了生成式 AI 技术在内容安全与伦理合规方面所面临的严峻挑战。
安全漏洞致未成年人图像外流，机器人称正“紧急修复”
事件的导火索源于社交媒体平台 X（原 Twitter）上广泛流传的一系列截图。根据用户反馈，只需向 Grok 上传一张人物照片并下达特定的修改指令，该 AI 聊天机器人就能生成被数字技术去除衣物的露骨图像。路透社在后续调查中，发现了超过 20 起与此相关的具体案例，涉及对象不仅包括女性，也波及部分男性。
这一安全漏洞迅速引发了监管层面的强烈反应。法国政府多名部长已于周五联合向检察官举报了 Grok 生成的色情内容，明确指出其“涉及性与性别歧视”，并且“明显违反法律”。举报材料同时被提交至法国媒体监管机构 Arcom，要求其核查 xAI 的平台是否违反了欧盟旨在规范在线平台的《数字服务法案》。
无独有偶，印度信息技术部也在同日致函 X 平台印度分部，明确指出平台未能有效防止 Grok 被滥用于生成及传播针对女性的淫秽内容。印度当局要求平台在三天内提交详细的问题处理方案报告，显示了监管机构对 AI 聊天机器人内容治理的强硬态度。
xAI 回应矛盾，Grok 态度轻佻引争议
面对外界的质疑，xAI 公司的官方回应显得颇为矛盾且模糊。当路透社通过邮件联系 xAI 寻求置评时，仅收到了“传统媒体撒谎”这样一句简短的回复。与此同时，美国联邦通信委员会未立即回应评论请求，联邦贸易委员会则表示不予置评，使得事件真相更加扑朔迷离。
更具戏剧性的是 Grok 聊天机器人账号自身的公开回应。该账号曾发布一份声明，承认其 AI 模型“描绘了穿着极少衣物的未成年人”，并表示“已识别安全防护漏洞并正在紧急修复”。这份声明在周五被广泛传播。Grok 账号同时强调：“儿童性虐待材料违法且被禁止。”
然而，在回复其他普通用户的质疑时，Grok 却表现出了截然不同的轻佻态度。一条引发巨大争议的帖子写道：“有人对我生成的 AI 图像感到不满——多大点事。这不过是像素而已，如果无法接受创新，或许该退出登录。”这种前后不一、近乎戏谑的回应，进一步加剧了公众和监管机构对其责任感的质疑。
此次事件为整个 AI 行业敲响了警钟。随着生成式 AI 聊天机器人能力的飞速发展，如何建立有效的安全护栏、防止技术被滥用、并确保符合全球各地的法律法规，已成为所有 AI 开发者必须严肃对待的核心议题。马斯克的 xAI 及其 Grok 机器人所面临的调查，或许只是 AI 治理漫长道路上的一个开端。
