AI 智能体在数百万家组织中的采用，正为攻击者创造新的机会，使其能够操纵智能体执行恶意操作，例如窃取数据库内容以及敏感的商业和个人信息。

在过去五个月里，Google 和另外四家组织——除了都使用 AI 智能体之外几乎没有共同点——已承认存在漏洞，这些漏洞利用目标网络内部的一个智能体，向其他内部智能体传播有害指令。该技术是一种特殊形式的提示注入，其目标不是 LLM，而是某个特定智能体，例如用于翻译或数据分析的智能体。此类智能体内部的防护措施（如果存在的话）往往很松懈，会将指令沿链条传递给其他智能体。由于后一个智能体明确信任前一个智能体，因此会遵从这些指令。

意外且难以缓解

独立研究员 Syed Anas Mohiuddin 测试了来自多家组织的智能体，包括 Google、JP Morgan Chase、Weviate、Rapid7、法国政府的部际数字事务局以及美国联邦政府。他的概念验证攻击利用了 MCP（Model Context Protocol 的缩写）中的信任缺口。该标准是 AI 应用和智能体在内部网络中相互通信的一种方式。下图展示了简化版 MCP 的实际运行。

阅读全文

评论