共计 2115 个字符，预计需要花费 6 分钟才能阅读完成。
ArtMarie/Getty Images
您可能听说过家庭接到电话，听到他们心碎、恐惧的亲人的声音，然后是绑匪的声音要求立即转账的故事。但在这些情景中并没有绑架。这些声音是真实的 – 只是被骗子利用 AI 模型操纵生成了深度伪造（就像有人在新罕布什尔初选中篡改了乔·拜登的声音（您可以在这篇文章中查看详细情况），骗子利用 AI 模型生成深度伪造的声音以阻止选民投票时）。人们通常只需打个电话证明没有孩子、配偶或父母被绑架，尽管这些声音看起来异常真实。
问题在于，当真相大白时，恐慌的家庭可能已经向这些虚假绑匪支付了大笔钱。更糟糕的是，随着这些技术变得更加便宜和普遍 – 以及我们的数据变得更容易获取 – 更多人可能会对这些骗局变得越来越脆弱。
那么，您如何保护自己免受这些骗局的侵害？
AI 电话骗局是如何运作的
首先，一些背景：骗子如何复制个人的声音？尽管视频深度伪造生成要复杂得多，但音频深度伪造却很容易创建，尤其是对于快速的打击式骗局。例如，如果您或您的亲人在 YouTube 或 TikTok 上发布了视频，骗子只需三秒的录音就可以克隆您的声音。一旦他们获得了这个克隆品，骗子就可以操纵它说出任何话语。
OpenAI 创建了一个名为 Voice Engine 的语音克隆服务，但在三月暂停了公共访问，据称是因为显示出了被滥用的潜力。即便如此，GitHub 上已经有几种免费的语音克隆工具可供使用。但是，这项技术也有受到监管的版本。使用您自己的声音或您有合法访问权限的声音，语音 AI 公司 ElevenLabs 可以让您从一分钟的样本中创建 30 分钟的克隆音频。订阅级别使用户可以添加多个声音、在不同语言中克隆声音，并获得更多分钟的克隆音频 – 此外，该公司还设有几项安全检查以防止欺诈性克隆。
在适当的情况下，AI 语音克隆是有用的。ElevenLabs 提供了一个令人印象深刻的广泛范围的来自世界各地和不同语言的合成声音，您可以仅通过文本提示使用这些声音，这可以帮助许多行业更轻松地接触各种受众。
随着语音 AI 的改进，不规则的停顿或延迟问题可能会减少，使人们更难以识别伪造品，尤其是当骗子可以使他们的电话看起来像是来自合法号码时。以下是您现在和将来可以采取的措施。
1. 忽略可疑电话
这听起来可能很明显，但避免 AI 电话诈骗的第一步是忽略来自未知号码的电话。当然，接听、确定通话是垃圾电话并挂断可能很简单 – 但您可能会泄露您的语音数据。骗子可以利用这些电话进行语音钓鱼，或者假装特意打电话给您以收集成功克隆您声音所需的几秒音频。特别是如果号码不可识别，拒绝接听并不发出任何声音，然后在网上查找这个号码。这可以确定来电者的真实性。如果您确实想要接听以进行检查，请尽量少说话。
您可能知道，任何要求您提供个人或银行相关信息的电话都不应被信任。您始终可以通过直接联系机构来验证通话的真实性，无论是通过电话还是其他验证过的通信方式，如短信、支持聊天或电子邮件。值得庆幸的是，大多数手机服务现在会对未知号码进行预先筛查，并将其标记为潜在的垃圾电话，为您分担一部分工作。
2. 给亲人打电话
如果您接到一个听起来像您认识的人的惊悚电话，驳斥 AI 绑架骗局最快最简单的方法是通过短信或电话验证您的亲人是否安全。如果您感到恐慌或手边没有另一部手机，可能很难做到，但请记住，您可以在与可能的骗子通话的同时发送短信。
3. 建立一个口令
与亲人，尤其是儿童，商定一个共享的秘密口令，以便在有麻烦但无法说话时使用。如果您接到一个可疑电话，您所谓的亲人无法提供您的口令，那么您就知道可能是骗局。
4. 提问
您也可以向冒充您亲人的骗子提问一个具体细节，比如他们昨晚吃了什么晚餐，同时您也可以另行联系您的亲人。坚决不要让步：骗子很可能会认输并挂断电话。
5. 注意您发布的内容
最小化您在社交媒体和公开可见的网站上的数字足迹。您也可以使用数字水印来确保您的内容不会被篡改。这并非绝对安全，但在找到一种保护元数据免受篡改的方法之前，这是最好的办法。如果您计划将任何音频或视频剪辑上传到互联网上，请考虑使用由圣路易斯华盛顿大学的研究人员开发的免费软件 Antifake。
6. 不要依赖深度伪造检测器
几家服务，包括 Pindrop Security、AI or Not 和 AI Voice Detector，声称能够检测 AI 操纵的音频。然而，大多数需要订阅费用，而一些专家甚至认为它们不值得一试。西北大学计算机科学教授 V.S. Subrahmanian 对 14 种公开可用的检测工具进行了测试。“您不能依赖当今的音频深度伪造检测器，我无法推荐使用其中的任何一个，”他告诉 Poynter。
“我会说没有一种单一工具被普遍认为对于普通大众来说是完全可靠的来检测深度伪造音频，”圣托马斯大学应用人工智能中心主任 Manjeet Rege 补充道。“在这个阶段，我建议采用多种检测方法的结合方法。”
与此同时，计算机科学家一直在努力改进深度伪造检测系统，比如布法罗大学媒体取证实验室的 DeepFake-O-Meter，即将推出。在没有可靠的公开服务的情况下，信任您的判断，并遵循上述步骤保护自己和您的亲人。
通过这些措施，我们可以更好地保护自己免受 AI 电话诈骗的威胁，确保我们的个人和财务安全。
