共计 657 个字符，预计需要花费 2 分钟才能阅读完成。
尽管 TikTok 和 Google 都制定了明确政策禁止仇恨内容，但由 Google Veo 3 生成的 AI 视频仍在 TikTok 平台上广泛传播，助长了种族主义刻板印象的扩散。
据 MediaMatters 调查显示，多个 TikTok 账号利用 Google 的 Veo 3 视频生成器制作并传播了宣扬反犹太和反黑人刻板印象的 AI 生成视频。这些视频在被平台删除前，已经获得了数百万次浏览。视频中的“Veo”水印清晰可见，证实了其来源。
尽管 TikTok 和 Google 都声称禁止创建和传播仇恨内容，但实际执行效果却参差不齐。TikTok 表示其采用了自动化系统和人工审核相结合的方式，但由于平台上每天海量的视频上传，导致审核行动存在明显滞后。虽然 TikTok 在 MediaMatters 发布报告前已经封禁了超过一半的相关账号，但大量有害视频仍然成功传播。
Google 同样制定了禁止仇恨内容的使用政策，但 Veo 3 的高级逼真度和难以检测的编码特性，使得用户更容易绕过平台的安全措施。记者测试发现，与早期版本相比，Veo 3 的生成限制更为宽松，这引发了对该工具在创建内容前过滤冒犯性材料能力的担忧。
随着 Google 计划将 Veo 3 整合到 YouTube Shorts 中，业界担心这些有害内容可能很快会蔓延至其他平台。TikTok 和 Google 似乎都难以跟上生成式 AI 技术被滥用的步伐，尽管两家公司在政策层面都制定了严格的规定，但在实际操作中，它们的技术仍然被大规模用于助长种族主义叙事。
想了解更多关于 AI、技术和数字外交的信息吗？如果是， 询问我们的 Diplo 聊天机器人 ！
