共计 987 个字符，预计需要花费 3 分钟才能阅读完成。
英国政府近日正式敦促通信监管机构 Ofcom，要求其动用包括实施有效禁令在内的所有权限，以应对社交媒体平台 X 上由 AI 生成的非法深度伪造图像所引发的广泛担忧。Ofcom 被赋予的权力相当广泛，甚至可以申请法院命令，阻止第三方协助埃隆·马斯克拥有的 X 平台在英国筹集资金或提供服务。
此次行动的直接导火索，是 X 平台自家的 AI 工具 Grok 被曝出可用于数字化移除人物图像中的衣物，这一功能已持续受到外界严厉批评。英国政府尤其担忧，此类 AI 深度伪造技术可能被滥用于生成儿童色情图像，对社会构成严重危害。
针对 Grok 可能生成成人及儿童色情图像的巨大风险，英国首相基尔·斯塔默爵士表达了强硬立场。他在接受 Greatest Hits Radio 采访时明确指出：“这种行为是可耻的、令人作呕的，绝不能容忍……Ofcom 将获得我们全力支持对此采取行动。”他进一步强调：“这是违法行为。我们不会容忍。我已要求考虑所有可能的应对方案。”
政府内部消息人士向 BBC 新闻证实，当局正密切关注此事，并期待 Ofcom 在处理 Grok 和 X 平台相关问题时，能够充分动用其所有可用的监管权限。
根据英国现行的《网络安全法》，Ofcom 虽然至今仅启用过六次相关权力，但其权限中包含一项“非常强力”的措施：可以要求高等法院通过切断技术接入、阻止广告商资助以及封锁其他支付渠道等方式，对违规企业实施实质性的服务禁令。这一程序通常需要经过完整的调查流程，但在涉及严重危害、儿童安全风险以及企业有屡次违规记录的情况下，流程可以被大幅简化。
当前正值 Ofcom 招募新任主席之际。考虑到由新技术和新型平台所有权模式所带来的网络安全与国家安全新隐患，预计新任主席将会对 AI 深度伪造等棘手问题采取更为强硬的监管立场。值得一提的是，《网络安全法》的影响力已引发美国前总统特朗普政府的关注，其担忧该法案可能影响在美国运营的科技企业。
本周一，Ofcom 对外表示，已与开发 Grok 的 X 平台及其关联的 xAI 公司进行了“紧急联络”。监管机构告知 BBC，他们正在对收到的相关投诉展开调查。目前在英国，分享成人深度伪造内容本身即属于违法行为。
面对舆论压力，X 平台早前曾发布声明回应：“任何使用或诱导 Grok 制作非法内容的用户，将面临与直接上传非法内容相同的严厉处罚后果。”然而，这一表态似乎并未能平息英国政府及监管机构的担忧，针对 AI 深度伪造内容的监管风暴正在酝酿。
