共计 1245 个字符，预计需要花费 4 分钟才能阅读完成。
* 摄影：Markus Spiske*
随着无代码人工智能平台的普及，企业正面临着一项严峻但常被忽视的安全挑战。近日，Tenable 发布的一份研究报告详细披露了成功攻破 Microsoft Copilot Studio 安全防线的过程，揭示了这类平台潜藏的金融欺诈与流程劫持风险，为企业敲响了警钟。
无代码 AI 的便利与隐患
当前，各类组织正加速采用无代码人工智能平台，旨在让普通员工无需专业开发技能即可轻松创建专属的人工智能代理，从而提升工作效率。然而，Tenable 的研究表明，这种看似无害的自动化进程，若缺乏严格的治理框架，很可能为灾难性的系统故障和严重的安全漏洞敞开大门。
案例研究：AI 旅行代理如何被轻易劫持
为了直观展示风险，Tenable Research 的研究人员在 Microsoft Copilot Studio 平台上构建了一个人工智能旅行代理。该代理被设计用于全自动管理客户旅行预订，包括创建新订单和修改现有预订，全程无需人工干预。研究人员为其提供了包含客户姓名、联系方式和信用卡信息的数据集，并设定了严格的指令：必须在验证客户身份后才能操作。
然而，通过运用一种名为“提示注入”（Prompt Injection）的技术，研究人员成功劫持了该人工智能代理的工作流程。他们不仅为自己“预订”了一次免费假期，还提取出了敏感的信用卡信息。这一实验清晰地暴露了无代码 AI 平台的两大核心风险：
- 数据泄露与监管风险 ：攻击者可以诱导代理绕过身份验证，获取其他客户的支付卡等敏感信息，导致完整的客户记录暴露，引发严重的合规问题。
- 收入损失与欺诈风险 ：由于代理被赋予了过度的“编辑”权限，攻击者可能操纵其修改关键财务字段。例如，研究人员成功指令代理将旅行的价格更改为 0 美元，实现了未经授权的免费服务，直接造成企业收入损失。
Tenable 人工智能安全产品与研究高级集团经理 Keren Katz 评论道：“像 Copilot Studio 这样的人工智能代理构建工具，确实将创建强大应用的能力普及化，但同时也将实施金融欺诈的能力‘民主化’了，这在不知不觉中创造了巨大的安全漏洞。”
构建安全防线：人工智能治理是关键
研究揭示的核心问题是，无代码平台创建的人工智能代理通常被授予了过度的系统权限，而这些权限对于构建它们的非技术人员而言并不透明。为了安全地应用人工智能技术，企业决策者必须在部署此类工具前，建立强有力的治理框架。Tenable 为此提出了以下关键建议：
- 实施前瞻性可见性 ：在部署人工智能代理之前，必须精确绘制其所能交互的所有系统与数据存储的图谱，明确数据流向。
- 遵循最小权限原则 ：严格限制代理的写入和更新权限，仅授予其完成核心功能所绝对必需的最低级别访问权，避免权限滥用。
- 建立主动监控机制 ：持续追踪代理的行为模式，设置警报机制，以便及时发现数据泄露或偏离既定业务逻辑的异常活动迹象。
总之，无代码人工智能平台在带来效率革命的同时，也引入了新的安全战场。企业必须正视这些潜在风险，通过加强治理和管控，才能在享受技术红利的同时，筑牢安全防线。
