#agentic-suite

全部资讯模型
清除条件
共 1 条
DEV Community · AI5 天前资讯技巧与观点海外

作者三次测试失败后发现是测试写错了,LLM 判断正确

开发者 Debashish Ghosal 在开源 Agent 安全工具集 agentic-suite 的 agentwatch 实测中,三次测试失败都先怀疑检测器有 bug,结果检测器都是对的、测试本身写错了。案例一:GoalDriftDetector 场景里 agent 执行 search_kb,作者预期判定为偏离目标,模型给出 diverged=false、similarity=0.95,理由是查知识库是重置密码的前置步骤;作者把动作改成 delete_database 后模型正确判定为偏离。案例二:PerTo…

推荐理由写 LLM 评测用例的人该看:浮点 1.9999999999999998 这类坑和“先怀疑检测器”的思维定式