共计 1317 个字符，预计需要花费 4 分钟才能阅读完成。
随着 2025 年新加坡大选（GE2025）的正式启动，一项新法律开始生效，旨在禁止使用数字化手段生成或操纵内容以歪曲候选人的言行。然而，自 5 月 3 日选举宣布以来，使用人工智能（AI）工具创建的与选举相关的在线视频数量激增，引发了广泛关注。
根据 CNA 的监测，从 4 月 15 日至 4 月 19 日，共检测到 73 个此类视频，超过了 3 月 14 日至 4 月 14 日整个月的 64 个视频。这些视频均发布在 TikTok 上，其中 11 个包含潜在候选人的数字化生成或操纵的视觉内容，可能违反了新法律。如果将包含潜在候选人真实视频片段但带有 AI 元素（如虚拟形象和文本转语音旁白）的视频计算在内，这一数字将增加到 27 个。
新法律规定，可以向个人发出纠正指令，要求他们删除内容；或向社交媒体提供商发出指令，要求他们禁用访问权限。不遵守指令可能导致监禁或罚款。然而，截至 4 月 21 日，尚未发出针对歪曲候选人的深度伪造内容的纠正指令。
数字发展及信息部（MDDI）表示，他们正在“密切监控新加坡大选期间的网络空间”，并已成立专门团队与社交媒体服务合作，迅速处理禁止内容。该部门还呼吁候选人和公众保持“警觉和敏锐的信息消费者”。
在 CNA 监控的多个 TikTok 账户中，一些账户被发现使用生成式 AI 视频、图像或音频片段创建本地政治内容。这些视频通过关键词列表被发现，其中黄循财总理出现在 7 个视频中。传播最广的视频时长超过两分钟，展示了黄循财的 AI 生成肖像，并配有泰语的文本转语音旁白。该视频由 TikTok 账户 @sparkupdate 于 4 月 15 日发布，已被播放超过 7 万次，并收到了超过 3700 次互动。
其他视频中出现了国务资政李显龙和内阁部长徐芳达、李智陞、唐振辉、颜金勇和王瑞杰。反对党政治家如工人党的毕丹星和林瑞莲，以及新加坡前进党的梁文辉也出现在一些视频中。一些视频并未掩饰其经过数字化处理的事实，将政治家描绘成穿着足球服、宫廷长袍或神奇女侠装扮等不太可能的服装。
传播研究员赛福丁·艾哈迈德表示，与之前的选举相比，生成式 AI 现在构成了更大的威胁，因为创建逼真的深度伪造视频和音频的门槛降低了。他指出，没有任何社会能够免疫，一个时机恰当的深度伪造视频仍可能削弱公众信心，即使迅速的事实核查也可能无法完全消除其对某些人的影响。
生成式 AI 已经影响了其他国家的选举。在巴基斯坦，去年投票日之前出现的 AI 生成视频错误地显示前总理伊姆兰·汗敦促支持者抵制投票。印度去年的选举也出现了大量深度伪造视频，总理纳伦德拉·莫迪重新分享了一段自己在舞台上跳舞的 AI 生成视频。在印度尼西亚的总统选举中，去年也出现了已故总统苏哈托支持戈尔卡党的深度伪造视频，该视频迅速传播。
新加坡国立大学副教授庞娜塔莉建议，选民应首先留意标明内容由 AI 生成的标签或信息，并自我教育，了解 AI 生成内容的外观和声音。赛福丁助理教授表示，他的研究表明新加坡人最不可能举报深度伪造视频，这需要改变，因为社区的警觉性同样重要。他建议选民在分享任何内容之前，尤其是在竞选期间，持“健康的怀疑态度”，并核实其发布者和发布时间。
总的来说，随着 AI 技术的普及，选举中的虚假信息传播变得更加复杂和隐蔽。新加坡政府和公众需要保持高度警惕，确保选举的公正性和透明度。
