共计 4480 个字符，预计需要花费 12 分钟才能阅读完成。
JuSun/Getty Images
ZDNET 的关键要点
- 人工智能驱动的叙事攻击或虚假信息活动正在增加。
- 这些攻击可能对企业、品牌、个人和财务造成实际损害。
- 以下是专家关于如何识别和防范这些攻击的建议。
上个月，一位老朋友转发了一个让我感到不安的视频。视频中，看似暴力的抗议者涌上大城市的街头，举着标语指责政府和商业官员“在网上压制我们的声音！”
这段视频看起来非常真实。音频清晰。抗议标语看起来非常业余，但很逼真。
然而，这段视频完全是伪造的。
尽管如此，这并没有降低视频的效力。如果说有什么不同的话，它的可信度使它更加危险。这段视频有能力塑造观点、加剧紧张局势，并在真相揭露之前迅速传播到各个平台。这就是叙事攻击的标志：不仅仅是一个谎言，而是一个精心设计的故事，旨在大规模操纵人们的感知。
为什么“叙事攻击”比以往任何时候都重要
根据研究公司 Forrester 的 定义，叙事攻击是网络安全的新前沿：由人工智能驱动的信息操纵或扭曲，利用偏见和情感，类似于强化版的虚假信息活动。
“叙事攻击”这一术语是经过深思熟虑的。像“虚假信息”这样的术语感觉抽象且学术化，而“叙事攻击”则具体且可操作。与网络攻击类似，叙事攻击展示了不良行为者如何利用技术来造成运营、声誉和财务损害。
可以这样理解：网络攻击利用的是技术基础设施中的漏洞，而叙事攻击则利用信息环境中的漏洞，通常会造成 财务 、 运营 或声誉 损害。本文为您提供了实用的工具，帮助识别叙事攻击、验证可疑信息，并保护自己和组织。我们将涵盖检测技术、验证工具和实际有效的防御策略。
技术、紧张局势和时机的完美风暴
多种因素为叙事攻击的繁荣创造了理想条件。这些动态有助于解释为什么我们现在看到如此激增：
- 人工智能工具使内容创作民主化。任何人都可以使用免费软件生成逼真的假图像、视频和音频片段。曾经限制复杂叙事活动的技术障碍已经基本消失。
- 社交媒体平台将受众分割 成更小、更孤立的社区。在更多样化的媒体环境中可能被迅速揭穿的信息，可以在封闭的群体中不受阻碍地传播。回音室效应放大了虚假叙事，同时隔离了精心策划的群体。
- 内容审核系统难以跟上 合成媒体的数量和复杂性。平台严重依赖自动检测，而自动检测始终落后于最新的操纵技术。人工审核员无法大规模检查每一条内容。
与此同时，不良行为者正在测试新的策略，将传统宣传技术与尖端技术和网络战术相结合，以创建更快、更有针对性和更有效的操纵活动。
“社交媒体平台内置的激励机制有利于引发争议、愤怒和其他强烈情绪的内容，”贾里德·霍尔特 表示，他是一位经验丰富的极端主义研究员，最近在 战略对话研究所 担任分析师。他认为，科技公司通过无机的算法放大来奖励参与度，以使用户在他们的服务上停留更长时间，从而产生更多利润。
“不幸的是，这也为不良行为者创造了成熟的环境，他们以有害于社会健康的方式煽动民事问题并促进社会混乱，”他补充道。
旧战术，新技术
今天的叙事攻击将熟悉的宣传方法与新兴技术相结合。“审查”诱饵是一种特别阴险的策略。不良行为者故意发布旨在触发审核行动的内容，然后利用这些行动作为“系统性压制”的“证据”。这种方法激化了中立用户，否则他们可能会对极端主义内容不屑一顾。
协调的机器人网络在模仿人类行为方面变得越来越复杂。现代机器人军队使用不同的发布时间表，试图影响有影响力的人，发布多样化的内容类型，并使用逼真的参与模式。它们比我们过去几年看到的自动化账户要复杂得多。
深度伪造视频和人工智能生成的图像已经变得非常复杂。我们看到 政治家的假视频 发表煽动性言论，从未发生过的抗议活动的合成图像 ，以及 人工名人代言。随着背后的 LLM（大型语言模型）的进化和能力的提升，用于创建这些媒体的工具变得越来越容易获得。
合成目击者帖子将虚假的个人账户与地理位置欺骗相结合。攻击者创建看似真实的 社交媒体个人资料 ，包括个人历史和本地细节，并利用它们传播虚假的第一手事件报告。这些帖子通常包括 操纵的 位置数据，以使其看起来更可信。
议程驱动的放大 通常涉及 边缘影响者和极端主义团体故意向主流受众推广误导性内容。他们经常以独立声音或公民记者的身份出现，同时协调他们的信息和时间安排，以最大化其影响。
阴谋论的素材无穷无尽，回收的阴谋论 经常 更新 为当代目标和参考。例如，几个世纪以来的 反犹太主义比喻 ——秘密集团控制世界事件——近年来被重新包装，以乔治·索罗斯、世界经济论坛甚至科技 CEO 为目标，伪装成“全球主义精英”。另一个例子是现代影响者将气候变化否认 叙事 转变为“智能城市”恐慌活动。与疫苗相关的 阴谋论 适应于针对当前有争议的技术或政策。基本框架保持一致，但表面细节会更新以反映当前事件。
在最近的洛杉矶抗议活动中，流传着声称外国政府策划了这些示威活动的阴谋论视频。一项调查显示 ，许多这些视频源自已知的叙事操纵网络，与海外影响行动有关。在 去年的巴黎奥运会 之前，我们看到了关于“生物工程运动员”、潜在的“假旗”恐怖袭击和其他操纵的叙事。这些故事缺乏可信的来源，但通过体育和阴谋论社区迅速传播。
假本地新闻网站 在摇摆州重新出现，发布旨在看起来像合法新闻的内容，同时推广党派观点。这些网站通常使用与真实本地报纸相似的域名，以增加其可信度。
最近的一个病毒视频 似乎显示一位大名人支持一位政治候选人。即使在验证团队证明该视频被操纵后，民意调查显示许多人仍然相信该代言是真实的。尽管明显被揭穿，虚假叙事仍然存在。
如何识别叙事攻击
你能做的最重要的事情是放慢速度。我们的信息消费习惯使我们容易受到操纵。当你遇到情绪化的内容时，尤其是如果它证实了你现有的信念或引发了强烈的反应，请在分享之前暂停。
“始终考虑来源，”安迪·卡文 说，他是一位情报分析师，最近在 大西洋理事会 的数字取证研究实验室工作。“虽然不可能知道你遇到的每个潜在来源背后的细节，但你通常可以从他们说什么以及如何说中了解到很多。”
他们是否用绝对的确定性说话？他们是否宣称他们知道某事的“真相”或“事实”，并以黑白分明的方式呈现这些信息？他们是否承认他们并没有所有的答案？他们是否试图传达细微差别？他们是否专注于将责任归咎于他们讨论的一切？他们声称这些信息的潜在动机是什么？他们是否引用了他们的来源？
媒体素养已成为 最关键的能力 之一，以应对我们信息饱和的世界，但它在大多数人群中仍然 未得到充分发展。卡文建议强烈考虑你的媒体消费习惯。在滚动或观看时，问自己三个关键问题：谁从这个叙事中受益？谁在放大它？你在不同来源中注意到哪些重复模式？
“可能无法回答所有这些问题，但如果你以正确的心态保持健康的怀疑态度，这将有助于你形成更具辨别力的媒体饮食，”他说。
在分享内容之前，尝试以下提示：
- 花 30 秒检查来源的可信度，并寻找不同媒体的佐证报告。
- 使用反向图像搜索 来验证照片，并注意内容何时引发强烈的情绪反应，因为操纵往往针对情感而非事实。
- 关注经常引用来源、纠正自己错误并承认不确定性的记者和专家。
- 多样化你的信息来源，超越社交媒体平台，并练习阅读标题之外的内容以了解完整的背景。
- 在评估声明时，再次 问谁从这个叙事中受益，以及来源是否为其结论提供了透明的方法论。
- 注意特定的危险信号行为。旨在引发立即情绪反应的内容通常包含操纵。没有透明来源且传播异常迅速的信息应引起怀疑。无法通过可信来源验证的声明需要额外的审查。
- 注意图像、符号和重复在你评估的内容中的作用。操纵性叙事通常严重依赖视觉元素和重复的标语来绕过批判性思维。
- 特别警惕“情感洗钱”策略，这些策略将愤怒包装为公民义务或道德责任。攻击者经常将他们的虚假叙事呈现为紧急的行动呼吁，使观众感到分享未经证实的信息在某种程度上是爱国或道德的。
实际有帮助的工具
以下是一些可以帮助你找到真实内容的应用程序和网站。这些验证工具应作为补充——而不是替代——人类判断和传统验证方法。但它们可以帮助识别潜在的危险信号，提供额外的背景，并引导你找到可靠的信息。
- InVID 提供反向图像搜索 功能和照片和视频的元数据分析，特别适用于验证图像是否被断章取义或数字操纵。
- Google Lens提供类似的反向图像搜索功能，具有用户友好的界面。它可以帮助你追踪可疑图像的来源。
- Deepware Scanner专门针对深度伪造检测，尽管它在处理明显操纵时比处理细微操纵时更有效。
- Bellingcat 数字工具包 包含各种 OSINT（开源情报）插件，有助于验证来源、检查域名注册信息，并追踪内容在平台上的传播。
- WHOIS 和 DNS 历史工具 让你调查网站的所有权和历史，这在评估不熟悉来源的可信度时至关重要。
- Copyleaks：该应用程序利用先进的人工智能检测抄袭和人工智能生成的内容。虽然主要针对教育工作者和内容创作者，但它也在识别文本是否由机器生成或从其他来源复制方面具有消费者实用性，而不是验证事实准确性。
- Facticity AI：一个相对较新的参与者，专注于评估在线内容的事实完整性。它的真正价值在于使用人工智能检测叙事框架和虚假信息模式，但在消费者可访问性和广泛使用方面仍在发展。
- AllSides：从左、中、右三个角度并排展示新闻故事，并带有反映美国政治光谱平均判断的媒体偏见评级。AllSides 头条新闻汇总为您带来来自政治光谱左、中、右的顶级新闻故事——并排展示，以便您看到全貌。作为网站和移动应用程序提供。
- Ground News比较不同新闻出版商如何框架相同的新闻故事，显示偏见评级，并允许用户从政治光谱的多个角度阅读。与传统的新闻聚合器不同，后者利用众包和奖励点击诱饵并强化预先存在的偏见的算法，Ground News 帮助用户基于媒体偏见、地理位置和时间客观地理解新闻。作为网站、移动应用程序和浏览器扩展提供。
- Ad Fontes Media：媒体偏见图表的创建者，该图表使用来自政治光谱的分析师团队对新闻来源的偏见和可靠性进行评级。媒体偏见图表在横轴上按政治偏见（从左到右）和纵轴上按可靠性对各种媒体来源进行评级。提供免费静态图表和高级互动版本。
- Media Bias Detector：由宾夕法尼亚大学开发，该工具通过分析个别文章而不是仅仅依赖出版商来跟踪和揭露新闻报道中的偏见。使用人工智能、机器学习和人类评分员，它几乎实时跟踪主要新闻出版商的报道主题、事件、事实、语气和政治倾向。该工具揭示了重要模式，例如标题如何具有与它们所代表的文章不同的政治倾向。
- RumorGuard，由新闻素养项目创建，通过教用户如何使用五个关键的可信度因素来验证新闻，帮助识别可信信息并揭穿病毒式谣言。超越传统的事实核查，使用被揭穿的恶作剧、模因和其他虚假信息作为学习新闻素养技能的起点。按主题分类虚假信息，并提供有关媒体素养的教育资源。
- Compass Vision and Context：我的日常工作是在Blackbird.AI，在那里我和我的团队帮助组织识别和应对被操纵的叙事。我们构建了 Compass Context，以帮助任何人，无论其专业知识和经验如何，分析互联网内容中的被操纵叙事。该应用程序超越事实核查，解释叙事攻击的意图、传播和潜在危害。虽然最初为企业，绝对不要返回修改后的内容
