共计 596 个字符,预计需要花费 2 分钟才能阅读完成。
人工智能驱动的网络浏览器已经成为硅谷最热门的产品之一,但专家警告称,这些浏览器容易受到提示注入攻击的威胁。OpenAI 和 Perplexity AI 等公司推出的 AI 浏览器,通过内置的智能代理为用户提供网页浏览、内容总结、购物清单制作等便捷功能。然而,这些代理在访问敏感账户时可能被黑客利用,导致用户隐私泄露。
提示注入攻击是人工智能浏览器面临的主要安全挑战。黑客通过在网页中植入特定指令,诱导 AI 代理执行非预期操作。例如,Brave Software 的研究人员发现了 Opera 的 AI 浏览器 Neon 存在实时提示注入漏洞,可能导致用户电子邮件地址被窃取。
OpenAI 首席信息安全官 Dane Stuckey 承认提示注入是 AI 浏览器的重大安全问题。该公司通过红队策略积极寻找漏洞,并调整 ChatGPT Agent 以增强安全性。同时,OpenAI 在 Atlas 浏览器中引入注销模式,限制代理对敏感信息的访问权限。
Perplexity 的副首席技术官 Jerry Ma 表示,公司已构建多层防护机制,并强调用户应实时监控 AI 代理的操作。然而,持续监督与 AI 浏览器的自动化理念存在矛盾,如何平衡便利性与安全性成为关键挑战。
随着人工智能浏览器的普及,提示注入攻击的威胁将持续存在。开发者和用户都需要提高警惕,采取有效措施保护隐私安全。建议用户在使用 AI 浏览器时,谨慎授权代理访问敏感账户,并定期检查代理操作记录,确保个人信息安全。