Goodfire 推出模型内部监控探针，成本仅为外部审查的 1/5
AI 可解释性初创公司 Goodfire 发布一种「由内而外」的 AI Agent 监控方案，通过探针读取模型内部激活信号，而非用第二个模型重读输出。该监控已向 Baseten 客户开放。在 Kimi K3 上的测试中，监控约 1500 个会话成本约 51 美元，而用廉价模型逐步检查需 233 美元、顶级模型约 1 万美元。探针捕获了 94% 的恶意黑客会话，8.7% 的无害会话被送二次审查。同时运行 4 个探针使模型开始响应的时间增加不到 2%。客户可自选监控风险类型（攻击性黑客、化生武器滥用、奖励黑客）及自动响…
推荐理由内部探针监控成本约为外部模型审查的 1/5，捕获率 94%，做 Agent 安全可直接参考这组数字