共计 2687 个字符，预计需要花费 7 分钟才能阅读完成。
本周，Meta 推出了三款新型智能眼镜，每款眼镜都通过腕带控制，并配备了一个“基于语音的人工智能助手，可以通过扬声器说话并通过摄像头看到”，据《纽约时报》报道。鉴于科技行业过去在评估潜在危害和滥用之前推出产品的记录，值得思考这些新眼镜可能被用于恶意目的，Meta 创始人兼首席执行官马克·扎克伯格声称这些眼镜最终将“提供个人超级智能”。
从 Meta 眼镜进行直播的能力已经是一个 产品功能，随着更多设备在市场上普及，应该预料到它们将被用于极端主义攻击，就像近年来智能手机和 GoPro 被使用一样。
科技平台一直在努力遏制直播的极端主义攻击。2019 年 3 月，在新西兰基督城，一名受白人至上主义意识形态驱使的男子履行了他在极端主义论坛 8chan 上做出的 承诺 ，他使用安装在头盔上的 GoPro 拍摄自己在两座清真寺杀害总共 51 名礼拜者的过程，同时在 Facebook 上进行直播。尽管 Meta 报告称最初观看直播的人数不到 200 人，但视频在平台上传播并扩散到其他社交媒体网络，最终激励其他人直播或试图直播他们自己的攻击，例如次月的Poway 犹太教堂 枪手，2019 年 10 月的 Halle 犹太教堂，以及 2022 年 5 月的Buffalo 超市 枪手。
今年，受伊斯兰国启发的 2025 年元旦新奥尔良致命卡车袭击的肇事者 佩戴了 Meta 人工智能（AI）眼镜 事先侦查现场。尽管他没有发起直播，但他在袭击期间也佩戴了眼镜，该袭击造成 14 人死亡，数十人受伤。
在这种情况下使用 Meta 设备引发了各种新问题，随着科技公司向消费者推广免提、联网、配备摄像头的人工智能可穿戴设备，可能会出现什么情况？智能眼镜是否会创造值得考虑的新漏洞，或者它们仅仅代表了从基督城 GoPro 攻击的演变？哪些技术和政策解决方案可以减轻这些设备被用于记录和传播可能激励其他极端主义者的暴力材料的潜力？
Meta 在确保其 Ray-Ban AI 眼镜 取得成功方面投入了大量精力。Meta 最初通过两则 超级碗广告 推广这些眼镜，其中包括名人佩戴这些设备。到目前为止，这一策略奏效了，预计在第一年 售出了 70 万套 。根据一项估计，智能眼镜预计在 2024 年至 2028 年间将实现7.6% 的复合年增长率。扎克伯格预测智能眼镜将成为下一个大技术，甚至 表示 没有智能眼镜的人有一天将处于“显著的认知劣势”。在 Meta 成功之后，Warby Parker 和 Google 计划发布“智能眼镜”产品，展示了市场的扩大。
这些设备将为所有希望创建内容的人创造新的机会和生产方法，包括极端主义者。创建和分发暴力内容是极端主义的一个重要方面，因为它允许肇事者的信息传播给更广泛的受众，从而激化和激励他人。正如极端主义专家雅各布·韦尔 写道，“现代社交媒体激化模式的聪明之处在于所谓的‘shitposting’文化，它鼓励用户发布一系列越来越令人震惊和煽动性的内容。”发布和转发暴力和令人不安的内容使个人接触并逐渐适应为暴力极端主义辩护的意识形态，使社交媒体在激化过程中变得至关重要。
目前，直播攻击是互联网上为极端主义者传播的内容的一小部分。在遏制这些材料方面已经取得了进展，特别是由全球互联网反恐论坛（GIFCT）创建的“哈希共享数据库 ”，以帮助科技公司识别跨平台出现的恐怖主义和极端主义内容。但 研究人员 发现，攻击者制作的内容正在发挥越来越重要的作用，以第一人称射击游戏模式制作的“游戏化”直播代表了“一致但小”的比例，使这些视频对激化至关重要。
此外，研究人员预计，人工智能可穿戴设备的“沉浸式”潜力，即使用虚拟现实查看位置的实时视频，将通过消除侦查地点的风险或其他挑战，使策划攻击变得更加容易。随着可穿戴设备的使用继续增长，极端主义者必然会接受这些工具，使策划和直播暴力变得更加容易，且预谋有限。
科技公司可以通过技术、政策和内容审核来减轻智能眼镜和其他可穿戴设备在极端主义攻击中可能发挥的风险。
一种主动的、面向可穿戴设备的修复方法可能会防止智能眼镜在直播暴力中的使用。人工智能可穿戴设备的最大吸引力之一是它们能够 提供更多信息 关于用户周围环境的信息。例如，使用唤醒词“Hey Meta”，用户可以询问他们的 Meta 智能眼镜他们正在看什么，然后设备的摄像头将照片发送到 Meta 的云端，由人工智能处理，并通过眼镜提供可听见的响应。鉴于可穿戴设备能够检测其周围环境，最终可能训练可穿戴设备识别潜在的攻击并停止直播或与社交媒体平台的实时连接，直到审核人员可以审查情况。必须注意减少误报，并且必须道德地训练识别系统，可能使用第一人称视频游戏的合成数据。
对于人工智能智能眼镜和其他可穿戴设备，科技公司仍然有用于调解所有其他违规内容的相同解决方案：政策和内容审核。平台政策可以用于最大限度地减少直播暴力到达不知情用户的能力。例如，反诽谤联盟 建议 只允许达到某些基准的用户拥有无缝直播的能力，逐步授予更广泛的观众访问权限，防止直播链接与问题网站的链接，要求直播者更多的参与以继续直播，延迟观众观看直播，并投资于更好地发现被直播的违规内容的工具。
一旦违规内容已经在平台上，快速准确的内容审核是必要的，GIFCT 的哈希共享数据库如果在科技公司正确实施的情况下，应该有助于最大限度地减少极端主义内容的跨平台传播。政策变化和内容审核虽然有助于确保暴力极端主义内容不会传播给不知情的用户，但并不能解决极端主义者利用人工智能可穿戴设备直播攻击的问题。
随着人工智能可穿戴设备变得越来越普遍，社交媒体平台应该准备好看到这些产品被用于直播暴力极端主义行为。我们不仅应该关注极端主义者获得这项技术，还应该关注任何计划在社区中制造恐惧的演员。最近，一名 海关和边境保护局特工 在移民突袭中被看到佩戴了人工智能可穿戴设备。尽管没有证据表明有录音，但快速访问免提、直播和录音技术可能在国家侵略的宣传中发挥作用，创建内容以增加对移民或其他弱势群体的“恐吓奇观”。
直播内容在用于激化和激励他人暴力时可能是危险的。例如，虽然明尼阿波利斯报喜天主教学校的枪手没有直播攻击，但他在攻击前在 YouTube 上上传了视频，描述了他对恶名的渴望，并在他的武器和装备上标记了 引用了之前的攻击 ，例如基督城和 Buffalo 的攻击。同样，在科罗拉多州，Evergreen 高中枪手的 在线活动 在本月初发生的攻击之前可能揭示了他“打算或希望”直播他的攻击。
认识到潜在的传染性，科技公司有责任投资于必要的技术、政策和内容审核工具，以最大限度地减少其产品在用于推动极端主义方面的风险。这一过程必须随着任何新设备的推出而重复，特别是那些可以用于连接用户到直播的设备，有效地允许极端主义者直接与他们的观众联系。
