让公司里每个人都能使用 AI 工具的问题在于,人们会以意想不到的方式使用它们。而这一事实正不断滋生出一种担忧:企业系统如今出现了新的、巨大的安全漏洞,或者至少很快就会出现。
为了说明企业内 AI 工具采用的速度如何助长了这种担忧,Shahar Bahat,首席执行官兼联合创始人,来自Pluto Security,表示一款新发布的 AI 工具在发布后短短两小时内就能出现在公司环境中。而她的公司在整个客户群中检测到的风险,约有 60% 来自非开发者用 vibe coding 做出来的工具:她告诉 TechCrunch,财务部门是此类风险的最大来源,其次是营销和法务团队。她说,开发者排在第四位。
她初创公司的工具显然发现了一款由一家《财富》500 强公司财务员工用 vibe coding 做出来的应用,用于管理客户信息和流失情况,但该应用被暴露在互联网上。
Pluto 刚刚结束隐身状态,带着 4200 万美元融资,是最新一家新 一批的安全初创公司它们迅速涌现以帮助企业应对这些担忧缺口,而它们全都在从投资者那里筹集大笔资金其背后的信念是:仅使用现有安全软件来监控和控制 AI 工具、连接器和使用情况,是一种方枘圆凿的做法。
Bahat 告诉 TechCrunch,她的初创公司从 4 月才开始销售,并且已经为其技术找到了一些客户,该技术帮助企业获得上下文、风险分析、可见性,并控制员工如何使用 AI 工具。她说 Pluto 于 4 月开始销售,年经常性收入已超过 200 万美元,拥有 30 多家企业客户,包括 Oscar Health、Workato、Sixt 和 AlphaSense。
Pluto 的融资包括由 TLV Partners 领投的 850 万美元种子轮,网络安全公司 Armis 的创始人也参与投资。该公司最近完成了由 Jump Capital 领投的 3400 万美元 A 轮融资,Skinos(Check Point 联合创始人 Shlomo Kramer 的风投公司)、Ansa Capital 和其他天使投资人也参与其中。
对于一个年轻初创公司来说,这算是不错的吸引力,尽管在当今 AI 时代并不罕见。但这可能是因为风险的广度并不局限于那些在 AI 采用率排行榜上领先的大型科技公司。
当我问 Bahat 她在哪里看到最大的风险时,她说这些问题因 CISO 的心态以及组织采用 AI 的意愿程度而有所不同,但无论如何都能发现风险。
“总的来说,我会说没有一次 POC 是我们进去后没有发现恶意内容的,”她说。“无论是扩展包还是技能——有些在我们做 POC 时还存在着活跃的实时攻击。这对我来说,从产品角度讲很棒。对公司来说,就不太好了。”
Pluto 的全部赌注是,保护此类环境将需要安全工具实时关注 AI 智能体在做什么,同时还要跟踪员工在构建和部署什么以及如何构建和部署。
“我们正在从用户行为转向智能体行为,”Bahat 说。
与这一愿景一致,这家初创公司的软件会监控员工使用的 AI 工具、这些工具所依赖的技能、扩展、MCP 服务器和其他组件,以及正在创建的应用和智能体。该公司表示,它可以识别有风险的组件、发现潜在危险的智能体活动,并执行安全策略,同时不阻止员工使用或制作 AI 工具。
为了实现这一切,Pluto 连接到端点安全和设备管理系统,并可以通过这些系统或直接部署到设备上部署自己的传感器。它收集信息,包括提示词、命令、运行中的进程、权限以及用户之前的活动,并在端点上使用自己的“轻量级”模型来帮助评估智能体试图做什么。
Bahat 说,突出的一点是 Pluto 的系统可以在智能体工作时进行干预。例如,如果智能体试图获取超出用户意图的权限,系统可以停止该操作,或向会话中添加指令,促使智能体请求确认。
“我们可以将上下文注入回会话,这样我就能改变智能体的工作方式,”Bahat 解释道。
这家初创公司在寻找客户方面也采取了不同寻常的方式。今年 4 月,它推出了Plutonium,这是一个免费平台,让任何人都能检查与公开可用的 AI 技能、连接器和附加组件相关的风险。此外还有一个 MCP 扫描器和一个经过验证的组件目录。Bahat 声称有数千名安全专业人士使用 Plutonium,并且围绕它形成的社区已成为反馈和潜在客户的重要来源。
她表示,Pluto 目前 70% 的销售管道来自主动咨询,不过她没有细分其中有多少直接来自 Plutonium。
Pluto 表示,计划将新资金投入产品开发、扩大安全研究力度,并拓展其在美国的业务。公司在美国和以色列共有 40 名员工。
当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。