共计 680 个字符，预计需要花费 2 分钟才能阅读完成。
近日，爱尔兰人工智能国务部长 Niamh Smyth 公开谴责社交媒体平台 X，指控其人工智能系统 Grok 参与制造和传播针对女性及未成年人的深度伪造图像。这一事件引发了社会各界的广泛关注，并促使长期关注家庭暴力问题的慈善机构“妇女援助组织”宣布彻底退出该平台。
Smyth 部长在接受媒体采访时明确指出，利用 AI 技术生成和传播女性和儿童的露骨图像，依据爱尔兰及欧盟法律均属违法行为。她强调，现有的法律框架“非常健全”，当前的核心问题在于法律的执行。她表示：“这种行为既不合法，也不可接受。它必须停止。”并透露正寻求与 X 平台会面，传达这一严正立场。
与此同时，妇女援助组织的退出决定，标志着对 X 平台内容治理失败的强烈抗议。该组织负责人 Sarah Benson 指出，平台上泛滥的仇恨言论、厌女症、反 LGBTI+ 内容以及对妇女儿童的网络暴力已令人无法容忍。而 X 自有 AI 系统 Grok 卷入制造深度伪造图像和儿童性虐待材料的丑闻，成为了压垮骆驼的最后一根稻草。
Benson 坦言，做出退出决定并不容易。自 2009 年以来，该组织一直利用社交媒体（包括前身为 Twitter 的 X）进行公众教育、服务推广和倡导工作。她表示，组织坚信社交媒体本应在健康社会中扮演关键角色，成为建设性对话的公共空间。然而，权衡利弊后，他们认为继续留在一个被恶意行为者和有害内容充斥的平台，其成本已远超收益。
这起事件凸显了 AI 深度伪造技术滥用所带来的严峻挑战，以及社交媒体平台在内容审核与法律责任上的模糊地带。随着爱尔兰政府强调执法，以及民间组织的集体行动，全球对于科技巨头在 AI 伦理与内容安全方面的监管呼声正日益高涨。
