共计 1136 个字符，预计需要花费 3 分钟才能阅读完成。
在人工智能（AI）领域，夸大其词似乎成了家常便饭，尤其是在涉及公共安全的产品上。最近，Evolv Technologies 这家公司就因为对其 AI 驱动的安全扫描仪的夸大宣传而惹上了麻烦。
Evolv Technologies 声称他们的扫描仪能够在各种场所，包括学校，检测出武器，从而提升公共安全。但美国联邦贸易委员会（FTC）的调查结果却让人大跌眼镜。上周，FTC 提议与 Evolv 达成和解，原因是该公司夸大了其 AI 系统在检测武器和忽略无害物品方面的能力，尤其是在学校环境中。
FTC 主席 Lina Khan 在社交媒体上指出，Evolv 向支付了数百万美元的学区虚假宣传了其 AI 武器检测系统。实际情况是，这些扫描仪不仅对无害物品如水瓶和活页夹触发了警报，还未能识别出真正的武器。
自 2021 年上市以来，Evolv 的扫描仪已经在多个公共场所使用，包括体育赛事、主题公园、学校、机场、地铁站甚至电影节。这家总部位于马萨诸塞州的公司曾将其“先进的 AI 驱动安全扫描系统”宣传为解决公共安全问题的灵丹妙药，尤其是校园枪击事件。
然而，据《拦截》报道，尽管 Evolv 前首席执行官 Peter George 曾自信满满地表示他们的系统能够检测到隐藏或公开携带的武器，但实际情况却远非如此。数十个花费巨资购买 Evolv 技术的学区发现，这些系统未能有效检测到武器，导致了一系列的法律和监管问题。
更糟糕的是，Evolv 的股东对公司提起了集体诉讼，指控其营销声明夸大了技术的有效性。尽管面临这些法律和监管挑战，纽约市市长 Eric Adams 还是启动了一项为期三个月的试点计划，在纽约市地铁部署 AI 扫描仪。然而，这些扫描仪在 Jacobi 医疗中心的部署中已经显示出高误报率的问题。
AI 系统通常会随着时间的推移和数据的积累而变得更加准确，但对于 Evolv 来说，情况并非如此。随着试点计划的进行，AI 扫描仪的准确性并未提高，误报率仍然居高不下。
最终，Evolv Technologies 与 FTC 达成了协议，解决了对其先前营销声明的调查。根据 FTC 的博客文章，拟议的和解令将阻止 Evolv“对其产品使用人工智能检测武器的能力做出未经支持的声明”。此外，Evolv 还被要求通知某些 K -12 学校客户，他们可以选择取消 2022 年 4 月 1 日至 2023 年 6 月 30 日期间签署的合同。
消费者保护局局长 Samuel Levine 在博客中强调，关于技术的声明需要有依据，尤其是在涉及儿童安全时。Evolv Technology 临时总裁兼首席执行官 Mike Ellenbogen 则表示，FTC 的调查是关于过去的营销语言，而不是他们系统为安全运营增加价值的能力。
这次事件再次提醒我们，AI 技术虽然潜力巨大，但在实际应用中仍需谨慎对待，尤其是在涉及公共安全的关键领域。
