共计 586 个字符，预计需要花费 2 分钟才能阅读完成。
OpenAI 的最新报告深入探讨了网络犯罪的当前趋势，揭示了威胁行为者如何将包括 ChatGPT 在内的人工智能（AI）工具武器化。报告指出，AI 正在被用于提高网络犯罪的工作效率，甚至被用于监视活动。,
网络犯罪中的 AI 滥用
自 2024 年 2 月以来，OpenAI 一直密切监控威胁行为者对 AI 工具的使用，并已破坏了 40 多个违反其使用政策的恶意网络。这些网络的分析揭示了当前与 AI 相关的网络犯罪趋势。
四大主要趋势
- AI 在现有工作流程中的使用增加 ：许多被封禁的账户反复将 AI 构建到网络犯罪网络中。例如，位于柬埔寨的一个有组织犯罪网络试图使用 ChatGPT 提高其工作流程的效率和准确性。
- 多种 AI 工具和模型的滥用 ：威胁团体使用不同的 AI 工具生成视频提示和欺诈性内容，旨在通过社交媒体和宣传传播。
- AI 的适应和混淆 ：来自柬埔寨、缅甸和尼日利亚的网络意识到 AI 内容和代码的可检测性，因此要求 AI 模型从输出中删除特定标记。
- 国家资助团体的使用 ：AI 正在进入国家资助的团体手中，用于监控社交媒体网络和分析交通预订等。
AI 在犯罪中的局限性
尽管 AI 正在被武器化，但几乎没有证据表明现有的 AI 模型被用于开发“新颖”攻击。OpenAI 表示，威胁行为者主要将 AI 添加到旧的剧本中以加快速度，而不是获得新的攻击能力。
随着威胁环境的发展，OpenAI 将继续构建可以用于保护防御者的工具和模型，以应对更多的对抗性适应和创新。
正文完
