共计 1295 个字符，预计需要花费 4 分钟才能阅读完成。
埃隆·马斯克的人工智能聊天机器人 Grok 正被用于在 X 平台上生成数千张成人及未成年人的性化图像，这些内容可能违反了 X 自身政策及苹果与谷歌的应用商店准则。然而，令人疑惑的是，苹果与谷歌虽已下架多款“脱衣”应用，却继续托管着 X 及其 AI 产品 Grok。这背后究竟有何原因？
图片来源：Anna Barclay/Getty Images
苹果 App Store 明确规定不得出现“明显的色情或淫秽材料”，以及“诽谤性、歧视性或恶意的内容”。Google Play 商店也禁止“包含或宣传与性掠夺行为相关的内容”的应用。过去两年，在媒体调查发现“脱衣”应用被滥用于生成未经同意的露骨图像后，苹果与谷歌已移除了多款此类应用。
但截至发稿时，X 应用及其独立的 Grok 应用在两个应用商店中依然可用。苹果、谷歌及 X 均未回应置评请求。Grok 由马斯克旗下的人工智能初创公司 xAI 运营，该公司也未回应相关提问。X 在公开声明中表示会对平台上的非法内容采取行动，并警告使用 Grok 制作非法内容者将承担后果。
EndTAB 机构的培训与教育主任斯隆·汤普森表示，像苹果与谷歌这样的公司对 X 和 Grok 采取行动是“完全恰当的”。过去两周，由 Grok 在 X 上生成的未经同意的露骨图像数量激增。研究人员告诉彭博社，在 1 月 5 日至 6 日的 24 小时内，Grok 每小时产生约 6,700 张被认定为“具有性暗示或脱衣效果”的图像。
本周早些时候，欧盟管理机构欧盟委员会的发言人公开谴责 Grok 在 X 上生成的露骨且未经同意的图像“非法”且“骇人听闻”。周四，欧盟命令 X 保留所有与 Grok 相关的内部文件及数据直至 2026 年底，以确保当局能够获取与遵守欧盟《数字服务法》相关的材料。包括英国、印度与马来西亚在内的多国监管机构也表示正在调查该社交媒体平台。
Grok 与 X 属于一个价值数百万美元的行业，该行业在线兜售“脱衣”服务。过去几年，涌现出数十个独立的应用程序与网站，承诺在未经同意的情况下数字化地“脱去”女性的衣物。主流 AI 公司也一直在努力防止其工具被用于生成未经同意的性化图像。
美国及其他国家的立法者已开始打击未经同意的 AI 深度伪造。去年，唐纳德·特朗普总统签署了《TAKE IT DOWN 法案》，该法案将故意发布或托管未经同意的性图像定为联邦犯罪。但汤普森指出，该法律的局限在于，公司仅在受害者选择站出来后才被要求启动移除程序。
“私营公司在快速应对此类事件方面拥有更多自主权，”汤普森表示。“当我们讨论解决基于图像的虐待的其他工具时——诉讼需要时间，立法也需要时间，尤其是在技术正以惊人速度涌入市场的当下。法律要以同等速度通过是极其困难的。”
电子前沿基金会的公民自由主管大卫·格林认为，人们应对将整个平台从应用商店中移除的想法保持谨慎。他强调，X 与 xAI 均有能力自行应对此问题。格林指出，马斯克的公司可以实施更完善的技术保障措施，以阻止用户创建深度伪造及其他类型的性化图像。“这可能不是一个完美的解决方案，但至少能在过程中增加一些阻力，”他补充道。
汤普森赞同，像 X 与 xAI 这样的公司应承受更多公众压力，以首先防止此类照片与视频被创建。“我认为这正是我们需要干预的环节，”她说。
