共计 1702 个字符，预计需要花费 5 分钟才能阅读完成。
英国通信监管机构 Ofcom 已正式对埃隆·马斯克旗下的社交平台 X 展开调查，核心原因是该平台推出的人工智能工具 Grok 被指控用于生成和传播色情图像，尤其是涉及儿童和未经同意的女性私密图像。
Ofcom 在一份声明中表示，收到了“极其令人担忧的报告”，称 Grok 聊天机器人被滥用来创建和分享人物裸体图像以及“儿童色情图像”。根据英国《网络安全法》，如果调查最终证实 X 平台存在违法行为，该机构有权对其处以最高相当于其全球营收 10% 或 1800 万英镑的巨额罚款，以金额较高者为准。
面对指控，X 平台向 BBC 引述了其安全账户在一月初发布的声明进行回应，称“任何使用或引导 Grok 制作非法内容的人，都将面临与直接上传非法内容相同的严厉后果”。然而，马斯克本人在回应一篇质疑为何其他 AI 平台未被调查的帖子时，将矛头指向了英国政府，称其是在寻找“任何审查的借口”。
BBC 的调查已发现多起在 X 平台上传播经过数字篡改（即“深度伪造”）图像的案例，其中女性在完全未经同意的情况下被 AI 技术脱去衣物并置于性暗示姿势。一名受害女性向媒体透露，已有超过 100 张她的伪造色情图像被生成并广泛传播，给她带来了巨大的精神伤害。
Ofcom 表示，此次调查将重点审查 X 平台在意识到这些非法内容后，是否未能履行其法定责任，及时删除相关内容，并是否采取了“适当措施”防止英国用户接触到这些内容。监管机构明确指出的非法内容包括“未经同意的私密图像”和儿童性虐待图像。此外，调查还将评估 X 平台是否采用了“有效的年龄验证”机制，以防止未成年人接触色情内容。
如果 X 平台在调查过程中不配合，Ofcom 有权向法院申请命令，强制互联网服务提供商在英国完全封锁对该网站的访问。这引发了关于 X 平台可能在美国被禁的讨论。
英国科技大臣莉兹·肯德尔对 BBC 表示，她欢迎 Ofcom 的调查，并敦促其尽快完成。“Ofcom 迅速完成这项调查至关重要，因为公众——尤其是受害者——不会接受任何拖延，”她强调。
前科技大臣彼得·凯尔在 BBC 早餐节目中严厉批评 Grok“未经适当测试”就上线是“骇人听闻的”。他分享了一个令人震惊的案例：“昨天我遇到一位犹太女性，她发现自己在奥斯威辛集中营外穿着比基尼的 AI 生成图像被上传到网络，这令我感到恶心。”
其他表达关切的议员包括北爱尔兰政治家卡拉·亨特，她称出于安全考虑已决定退出 X 平台。唐宁街则表示，政府仍专注于“保护儿童”，但将“重新评估”其在 X 平台上的官方账号。“我们认为所有选项都应被考虑，”首相的发言人表示。
受害者代表黛西·迪克森博士此前向 BBC 表示，在多次有人使用 Grok 制作她的脱衣图像后，她感到“被羞辱”。她对调查启动表示欢迎，并驳斥了马斯克关于“审查”的言论：“马斯克等人将此称为审查的借口，这只是在转移焦点——真正的问题是针对妇女和女童的系统性暴力。如果 X 平台的辩护者真的关心厌女症和儿童色情问题，他们应该呼吁马斯克立即遵守规则，而不是恶意转移话题。”
此次调查启动之际，Grok 的图像生成功能已在全球范围内引发反弹和监管关注，马来西亚和印度尼西亚在上周末已暂时封锁了该工具。Ofcom 发言人未透露调查将持续多久，但强调这将是“最高优先级的事项”。“平台必须保护英国用户免受在本国非法的内容侵害，”他们表示。“如果我们怀疑企业未能履行其责任，尤其是存在对儿童造成伤害的风险时，我们将毫不犹豫地展开调查。”
专家指出，调查进程存在不确定性。埃塞克斯大学互联网法教授洛娜·伍兹向 BBC 表示，调查进度“难以预测”，“Ofcom 在调查节奏上有一定的裁量空间”。她指出，监管机构理论上可以立即申请业务中断令——即通过法院命令在英国封锁 X 平台——而不必将其作为最后手段，但这通常仅适用于应对持续性、严重危害的“罕见情况”。
杜伦大学法学教授克莱尔·麦克格林则认为，关于 X 平台是否会在英国被封锁的辩论是一种“干扰”。“妇女和女童需要的是实际行动和切实改变，以确保 Grok 这样的 AI 工具不生成非法私密图像，并且女性能够有效删除未经其同意的图像，”她说道。这起事件凸显了 AI 技术快速发展所带来的严峻伦理与监管挑战，以及平台在内容审核和用户保护方面不可推卸的责任。
