共计 2973 个字符，预计需要花费 8 分钟才能阅读完成。
深度伪造技术可能毁掉声誉、冒充领导者并助长诈骗。以下是如何领先一步应对。
Curly_photo/Moment/Getty Images
ZDNET 的关键要点
- 深度伪造可能造成严重的声誉和财务损害。
- 深度伪造事件正在增加，目前的防御措施可能不足。
- 立即采取措施降低企业面临的深度伪造诈骗风险。
深度伪造技术正在迅速发展，随之而来的是企业面临的风险增加。
ChatGPT的出现及其对企业的几乎立即影响让许多人感到惊讶。生成式 AI 聊天机器人 在学生、中小企业和企业中广受欢迎，迅速席卷了许多公司，促使它们认真探索 AI 的好处。
生成式 AI 可以为企业带来变革；然而，与任何新技术一样，它也可能被滥用，深度伪造带来的风险就是这一问题的一个例证。
什么是深度伪造？
深度伪造最初出现在社交媒体上 ，当时个人尝试制作讽刺内容——从 知名人物 到猫开车的逼真图像和视频。除了娱乐之外，威胁行为者可以使用相同的方法进行犯罪和欺诈活动。
深度伪造通过 AI 工具和大型语言模型（LLMs）生成。可以生成目标人物说某句话或执行某个动作的照片和视频。输入 LLMs 或在线找到的源材料，包括现有照片或从采访和播客中提取的语音片段，可以增加足够的真实感，使得深度伪造非常难以检测。
生成对抗网络（GANs）也可以使用现有数据集创建全新的——但可信的——人物，这些 AI 人物可以在网上推销诈骗产品或传播假新闻。
现在，AI 工具可以在线免费获取且易于学习，这降低了网络犯罪分子创建复杂钓鱼活动、诈骗个人、传播错误信息或创建恶意广告的门槛。
深度伪造对企业构成的风险
深度伪造技术正在迅速发展，我们尚未完全理解 使用生成式 AI 的每一种攻击角度——但我们已经观察到许多潜在的攻击向量。
根据 Ironscales 的2025 年秋季威胁报告，今年深度伪造攻击同比增长了 10%，85% 的受访组织表示他们在 2025 年处理过至少一起与深度伪造相关的事件。
深度伪造对企业构成的一些主要风险包括：
- 错误信息、宣传：深度伪造，无论是图像还是视频，都可以用来传播错误信息、假新闻和宣传。这可能包括所谓的员工在网上抨击公司、假高管发表贬低性评论或主持人阅读的假新闻，将组织牵涉到犯罪活动中。
- 声誉损害：传播错误信息的深度伪造也可能导致严重的声誉损害和财务损失，如股价暴跌或事件削弱消费者对品牌的信任。这可能包括 CEO 承认挪用公款的假视频、品牌通过假新闻报告与童工欺诈性关联等。公司还可能承担深度伪造内容在社交媒体平台上传播的后果，这些内容传播假的结构性变化——如收购和合并——可能严重影响股价。这些类型的深度伪造也可能对未来的真实新闻产生持久影响，因为观众可能不知道相信什么。
- 身份盗窃、社会工程 ：深度伪造视频、图像和语音通话是当今最危险的深度伪造应用之一。通过生成令人信服的视频和合成语音记录，攻击者可以冒充企业领导者——如 CEO 或副总裁——并诱使员工交出敏感数据或凭证以访问公司系统，或批准欺诈性发票。一个例子是英国专业服务提供商 Arup 因深度伪造诈骗损失了数百万美元，网络犯罪分子在视频通话中创建了一个 深度伪造版本 的高管，要求进行欺诈性转账。
- 语音钓鱼（Vishing）：从 Arup 的案例中可以看出，以这种方式使用深度伪造技术被称为语音钓鱼。语音克隆的语音邮件、假音频笔记和嵌入电子邮件或传播在社交媒体上的深度伪造视频内容都可能被用来诱使受害者透露敏感信息或批准欺诈性付款。
不幸的是，深度伪造技术是一个不断增长的市场。谷歌威胁情报小组（GTIG）最近发布的 研究报告 揭示了在地下出售的用于创建钓鱼操作中有用的诱饵内容的 AI 工具，甚至还有用于规避了解你的客户（KYC）银行安全要求的生成式 AI 工具。
如何保护企业免受深度伪造侵害
1. 员工培训
为员工提供关于深度伪造是什么以及如何检测它们的知识、指导和支持应该是采取的第一步。
培训需要持续、频繁且有趣，因为研究已经表明，年度网络安全培训 几乎毫无意义。关于如何发现深度伪造的提示很重要，因为虽然它们变得越来越难以检测，但让员工意识到可能表明深度伪造的微小细节——如奇怪的阴影、扭曲的声音、缺乏熟悉的短语或术语，或模糊的特征——也可以使他们受益。
另见：在软件开发过程中释放 AI 的 6 条基本规则——以及第一风险
Ironscales 的首席技术策略师 Audian Paxson 告诉 ZDNET，视频深度伪造通常是员工最难发现的，因此应优先进行这方面的培训——尽管雇主应预期初始通过率会相当低。
“我们 2025 年的研究中有 88% 的组织提供深度伪造意识培训，但当我们询问关于钓鱼模拟的首次尝试通过率时，大多数在 20-60% 之间，”Paxson 评论道。“这不是培训失败——而是反映了这些攻击变得多么好。你需要模拟实际攻击模式的现实模拟（高管的音频片段、假视频会议请求），以便员工在压力下练习验证行为。而且你需要不断运行它们！”
2. 多因素认证、分层认证控制
基于欺诈的深度伪造攻击的最佳防御形式之一是实施 分层、独立的认证 和支付验证控制。
任何单个员工都不应能够授权高价值支付或敏感信息（如财务或工资记录）的转移。相反，通过增加第二级批准，一个令人信服的深度伪造攻击必须欺骗不止一个受害者——这给了员工一个机会退后一步、思考、合理化，并可能更容易发现深度伪造计划。
实施起来也很简单，只需使用可信的电话号码、Slack 消息或内部邮件。
另一个选择是使用代码词，频繁更改，在请求付款时必须说出这些代码词。没有这些内部知识，深度伪造语音或视频尝试将失败。如果深度伪造攻击者以某种方式诱使员工交出凭证，在终端设备和系统上使用多因素认证将创建一个重要的进入障碍。
“一个明确的‘回拨’政策是最简单的防御之一，”VerifyLabs.AI 的 CEO Nick Knupffer 告诉 ZDNET。“如果请求看起来不寻常或紧急，员工应始终在已验证的号码上回拨高管，而不是消息中提供的号码。多因素认证是另一个必须，确保敏感账户和付款不能仅凭单一指令批准。”
3. 制定事件响应计划
担心深度伪造增加的企业必须对其网络进行全面审计，识别其弱点，确定培训需求，并审查其安全和认证措施，包括令人信服的深度伪造是否可以欺骗现有的自动验证系统。
另见：Sora 2 和其他 AI 视频工具使用起来有风险吗？一位法律学者如是说
然后，组织可以制定现实的 事件响应计划，以应对与深度伪造相关的安全事件，包括如何确保关键任务系统保持在线、如何处理欺诈、可用的法律补救措施、保险考虑以及如何处理公共关系。
4. 不信任任何事物
企业现在应开始考虑实施零信任架构和控制，特别是随着对人类因素和检测诈骗能力的信任正在减弱——随着深度伪造技术的发展，这一挑战可能会变得更加困难。
根据Gartner，到明年，使用 AI 生成的深度伪造对面部生物识别技术的攻击将导致 30% 的企业减少对孤立身份验证解决方案的信任，因此多个验证点将变得必要，包括能够区分真人和深度伪造的解决方案。
另见：对 AI 裁员感到焦虑？白领工人如何保护自己——从现在开始
投资于零信任访问和控制系统，结合多因素认证和行为分析软件，可能有助于降低深度伪造及相关技术危害网络的风险。
