微软 ThinkingBox 评测 Agent 数据库终态,12 个模型 12 万次试验近 8 万次失败
微软与 Hugging Face 联合发布 ThinkingBox 基准,不再看 Agent 生成的文字或工具调用是否合法,而是直接检查它留在后端数据库里的最终状态和副作用,并要求同一任务连续跑 20 次。在覆盖 12 个 LLM、121680 次有效试验的消融中,79853 次未通过可执行检查。基准包含 507 个有状态业务流程,已通过 Hugging Face 和 OpenEnv 开放运行。文中举例:客服 Agent 九次工具调用全部合法,却把工单状态写成 solved,而要求终态是 hold。
推荐理由做 Agent 落地的可以直接用这套基准测自己的流程,重点看连续 20 次的一致性和数据库终态,而不是回复像不像。