共计 671 个字符，预计需要花费 2 分钟才能阅读完成。
微软近期在 Windows 11 中推出了一项备受瞩目的 AI 功能——Copilot Actions。这一功能旨在通过 AI 代理与用户的应用和文件进行交互，帮助用户完成复杂任务，如更新文档、整理文件、预订门票或发送电子邮件。然而，这一功能的深度数据访问能力也引发了广泛的安全和隐私担忧。
根据微软的描述，Copilot Actions 将代理从被动助手转变为主动的数字协作者，能够在用户授权后访问 PC 上的应用程序和数据。然而，这种深度访问也意味着用户需要对这些代理给予高度信任。允许代理与个人文件交互，甚至代表用户在应用程序中操作，无疑是一个重大的信任决策。
微软对此表示，Copilot Actions 将以预览版的形式推出，仅适用于选择加入 Windows Insider 计划的用户。该功能默认情况下将被禁用，用户需要在设置中手动启用。此外，代理将在一个单独的标准账户下运行，只能访问用户明确授权的文件夹，如文档、下载、桌面和图片。
微软的安全副总裁 Dana Huang 强调，代理的操作有一个明确的边界，无法在没有用户干预的情况下对设备进行更改。然而，她也指出，AI 驱动的代理仍存在新的安全风险，例如跨提示注入（XPIA），可能导致数据泄露或恶意软件安装。
为了应对这些风险，微软的安全研究人员正在积极进行“红队测试”，以评估 Copilot Actions 的安全性。微软表示，在功能正式发布之前，将推出更细粒度的安全和隐私控制。
尽管微软采取了一系列安全措施，但这一功能的安全风险仍然不可忽视。对于那些以怀疑著称的安全研究人员社区来说，这些警告和免责声明是否足够，仍有待观察。
