共计 705 个字符，预计需要花费 2 分钟才能阅读完成。
Google 将于本周四发布新的指导方针，旨在加强对通过 Google Play 分发的 AI 应用程序的监管，以减少不当和其他禁止内容的出现。公司明确指出，提供 AI 功能的应用程序必须防止生成包括色情内容、暴力等在内的受限内容，并为用户提供一种举报他们发现的冒犯性内容的方式。此外，Google 强调，开发者需对其 AI 工具和模型进行严格的测试，确保用户的安全和隐私得到尊重。
Google 还特别关注那些在营销材料中宣传不当用例的应用程序，例如那些宣称能脱衣或制作未经同意的裸体图像的应用程序。如果广告文案中包含此类表述，即使应用程序实际上无法执行这些操作，也可能被从 Google Play 中移除。
这些措施是对近期社交媒体上 AI 脱衣应用程序增多的回应。例如，404 Media 在四月份发布的报告显示，Instagram 上曾推广过声称使用 AI 生成深度伪造裸照的应用程序。其中一款应用程序甚至使用了金·卡戴珊的照片，并配以“免费脱任何女孩”的标语。苹果和谷歌已将这类应用程序从各自的应用商店中下架，但问题依然存在。
美国各地的学校报告称，学生们通过 AI 深度伪造裸照进行欺凌和骚扰，这一现象已波及到教师甚至中学生。上个月，巴尔的摩发生的一起针对学校校长的种族主义 AI 深度伪造案件，导致了一起逮捕事件。
谷歌表示，这些新政策将有效阻止可能含有不当或对用户有害的 AI 生成内容的应用程序进入 Google Play。谷歌在其 AI 生成内容政策中明确指出，AI 应用程序不得生成任何受限内容，并必须提供用户举报冒犯和不当内容的机制，并监控和优先考虑这些反馈。这对于那些用户互动直接影响内容和体验的应用程序尤为重要，例如那些流行模型排名较高或更显著的应用程序。
