共计 696 个字符，预计需要花费 2 分钟才能阅读完成。
随着生成式 AI 技术的迅猛发展，OpenAI 发布的最新报告揭示了全球范围内，尤其是来自中国及其他地区的 AI 滥用和误用案例。这份年度报告不仅概述了 AI 系统被不良行为者滥用的多种方式，还强调了技术滥用的潜在风险。
OpenAI 在报告中指出，AI 调查是一个不断发展的学科。每一次成功阻止的滥用行为，都为公司提供了更深入的理解，使其能够完善防御机制。报告详细列出了过去一年中的 10 个滥用案例，其中 4 个似乎源自中国。例如，一个案例中，ChatGPT 账户生成了用英语、中文和乌尔都语发布的社交媒体帖子，旨在制造真实人类参与的假象，并围绕政治敏感话题吸引关注。这些话题包括台湾和 USAID 的解散，均与中国的地缘战略利益密切相关。
此外，报告还提到另一个与中国直接相关的滥用案例，涉及使用 ChatGPT 进行恶意网络活动，如密码“暴力破解”以及研究有关美国军事和国防工业的公开记录。尽管中国外交部否认与这些活动有关，但这些案例无疑加剧了国际社会对 AI 技术滥用的担忧。
报告还揭示了其他地区的 AI 滥用案例，涉及俄罗斯、伊朗、柬埔寨等地的行为体。这些案例表明，AI 技术的滥用已成为全球性问题，需要国际社会共同应对。
随着文本到视频和文本到语音模型的进步，如 Google 的 Veo 3 和 ElevenLabs 的新 v3，AI 生成的内容越来越逼真，这也使得虚假信息的传播变得更加容易。尽管开发者在部署模型前通常会实施防护措施，但不良行为者在滥用和误用方面变得越来越有创意，双方陷入了一场猫捉老鼠的游戏。
在当前美国缺乏强有力的联邦监督政策的情况下，OpenAI 的报告提醒我们，AI 技术的滥用和误用问题亟需引起重视，并采取有效措施加以防范。
