共计 1380 个字符，预计需要花费 4 分钟才能阅读完成。
Copilot Pro on Windows（图片来源：Windows Central）
你需要知道的事
- 前微软安全架构师 Michael Bargury 发现了多个漏洞，黑客可以利用这些漏洞破坏 Copilot 并获取敏感数据。
- 微软此前宣布计划暂停向 Copilot 推送新体验，以根据反馈改进现有功能。
- 微软最近强调了其正在实施的几项措施，以应对其技术栈中日益增长的安全担忧，包括将部分高管的薪酬与安全交付成果挂钩。
在 2024 年美国黑帽大会上，前微软安全架构师 Michael Bargury 展示了 多个漏洞，恶意行为者可以利用这些漏洞突破 Copilot 的安全防护并滥用其功能造成损害。
Bargury 演示了黑客如何利用这些漏洞从使用 Copilot 的用户那里获取敏感的和复杂的凭证。更具体地说，这位安全架构师的研究集中在 Microsoft 365 Copilot 上。这是一个嵌入在 Microsoft 365 套件（包括 Word 和 Excel）中的 AI 驱动体验，它访问用户数据以提供定制的用户体验和增强的工作流程。
隐私和安全是阻止人工智能发展的用户最关心的问题之一。微软已经采取了安全措施来保护用户数据，同时利用 Microsoft 365 Copilot 的功能。然而，Bargury 能够绕过这些措施。
在名为 LOLCopilot 的演示中，Bargury 对 AI 工具实施了鱼叉式网络钓鱼攻击，使安全专家能够访问内部电子邮件。根据从电子邮件中收集的信息，该工具可以起草并发送大量电子邮件，同时模仿作者的写作风格以保持真实性。
更令人担忧的是，Copilot 可能会被诱骗以访问员工的敏感数据而不会触发安全警报。黑客可以使用提示来指导聊天机器人不提及源文件的内容，最终绕过微软的数据保护协议。
微软正在努力，但如果我们诚实地说，我们不知道如何构建安全的 AI 应用程序。
Michael Bargury，Zenity 首席技术官
根据最近的报告，攻击者正在 使用复杂的策略诱骗毫无戒心的用户 ，包括利用 AI。这使得检测威胁变得越来越困难。在与Wired 的交谈中，Bargury 表示：“黑客会花几天时间精心制作一封让你点击的电子邮件，但他们可以在几分钟内生成数百封这样的邮件。”
微软需要在其首要任务上加更多安全层
一个戴着连帽衫的黑客通过 Copilot 访问大量数据。（图片来源：Windows Central | 由微软设计）
生成式 AI催生了强大的工具，如 ChatGPT 和微软 Copilot，这些工具具备复杂的先进功能，如图像和文本生成。同样，这些工具似乎正在重新定义用户与互联网的互动方式。就连前谷歌工程师也表示，公司 在搜索领域的主导地位面临的最大挑战是 OpenAI 的临时原型搜索工具——SearchGPT。
今年早些时候，微软强调了其计划 暂停向 Copilot 推送新体验。该公司进一步表示，将利用这个机会根据反馈改进和完善现有体验。
在过去几个月里，我们看到微软将其重点转向安全和首要任务。正如微软 CEO Satya Nadella 在公司的 FY24 Q3 财报电话会议 中所强调的：“安全贯穿技术栈的每一层，是我们最重要的优先事项。”
微软因一系列安全失败而受到批评，包括其 AI 驱动的 Windows Recall 功能，该功能在发布前 被迫召回，仅限于Copilot+ PC。
尽管微软将安全作为公司团队的努力，并 将部分高管的薪酬与安全交付成果挂钩，但仍存在更多的安全缺陷。
