共计 631 个字符，预计需要花费 2 分钟才能阅读完成。
恶意行为者正在滥用生成式人工智能音乐工具，创作针对同性恋、种族主义和宣传性歌曲，并发布指南教导他人如何这样做。根据在线平台信任和安全运营服务商 ActiveFence 的说法，自 3 月以来，“仇恨言论相关”社区内有关如何滥用 AI 音乐创作工具来创作针对少数群体的冒犯性歌曲的讨论急剧增加。
仇恨歌曲的创作与传播
ActiveFence 的研究人员在一份报告中指出，在这些论坛和讨论板上分享的 AI 生成的歌曲旨在煽动对种族、性别、种族和宗教团体的仇恨，同时赞美殉道、自残和恐怖主义行为。这些歌曲并非新现象，但随着易于使用的免费音乐生成工具的出现，这些歌曲将被之前没有这种手段或知识的人大规模制作。
音乐工具的安全漏洞
像 Udio 和 Suno 这样的生成式 AI 音乐工具允许用户为生成的歌曲添加自定义歌词。尽管这些平台上的安全防护措施会过滤掉常见的侮辱性词语，但用户已经找到了绕过方法。例如，白人至上主义论坛上的用户分享了少数族群的语音拼写和冒犯性术语，以绕过内容过滤器。
歌曲的影响与应对措施
施瓦茨认为，与文本不同，歌曲具有情感厚重感，使它们成为仇恨团体和政治战争的有力力量。他呼吁音乐生成平台实施预防工具并进行更广泛的安全评估。然而，随着用户发现新的规避审核的方法，修复可能是短暂的。
生成式 AI 服务使缺乏资源或创意和技术技能的用户能够构建引人注目的内容，并传播在全球思想市场上争夺注意力的想法。威胁行为者发现了这些新服务提供的创意潜力后，正在努力规避审核和避免被检测到——并且他们已经成功。
