SID AI 发布了 SID-2,这是其第二代智能体搜索模型,同时发布的还有 SID-2 Swarm。SID-2 是 SID AI 推出的智能体搜索模型,它会搜索你的数据、读取结果并返回排序后的文档 ID。它用一个自行决定下一步搜索什么的模型,取代了固定的 RAG 流水线。

TL;DR

规模:根据报告,上下文窗口为 262k tokens(sid.ai/models 上为 256k)。

运行方式:托管 API 位于 platform.sid.ai,另有 Baseten 和 SageMaker 参考路径。SID 的延迟数据假设使用 1 块 B200 GPU、8 个并发查询。

性能:单个智能体在检索质量上可媲美 Claude Opus 5.5。Swarm 击败了 SID 测试过的所有模型。

最佳:SID-2 Swarm(12 个智能体)得分为 0.720 NDCG,高于 GPT-6 Astra 的 0.704。

最差:SID-2 Low 得分为 0.556 NDCG,比 GPT-6 Astra 低 0.148。Astra 在加州法律、SEC 文件和 FiQA 上仍然领先。

结论:最佳之处:以极低延迟实现前沿级检索。最差之处:尚未披露规模、权重或独立评测。

什么是 SID-2,它如何工作?

SID-2 是一个小型搜索专家模型,而非通用聊天模型。静态流水线按固定顺序执行改写、嵌入、搜索和重排序。SID-2 则先搜索、读取结果、调整,然后再次搜索。

开发者针对自己的后端实现搜索工具。text_search 工具负责关键词搜索,search 工具负责向量搜索。模型在每轮结束时调用 report_helpful_ids 并给出排序列表。无需重建索引或迁移数据,因为 SID-2 只能看到你的工具返回的内容。

SID-2 Swarm 运行多个智能体,它们互相发消息,并将各自的上下文分叉给新的智能体。每个智能体探索语料库的一个独立切片。SID 认为,搜索从阅读更多文档中获得的收益,大于对每篇文档进行更深入推理的收益。

什么是推理力度和 Metric Steering?

SID-2 提供低、中、高三种推理力度。每个级别都作为独立的专家模型训练,然后通过多教师同策略蒸馏合并。Metric Steering 让用户可以以 NDCG、F1 或 Recall@k 为目标,其中 k 从 1 到 50。在 SID 的 506 题验证集上,高推理力度的 SID-2 在每个指标上比基础模型高 0.14 到 0.22。

SID-2 是如何训练的?

训练采用两阶段强化学习。阶段 1 仅优化检索质量。阶段 2 增加一个仅作用于正向奖励的乘性延迟惩罚。一个 proposer-solver 自博弈循环针对冻结的 SID-1 solver 生成困难查询。SID 报告称,相比 SLIME 的默认设置,训练吞吐量提升 6 倍。

SID-2 在基准测试上表现如何?

SID 构建了一个包含 506 个问题的基准测试,覆盖 19 个语料库。其中包括 HotpotQA、Enron 邮件、SEC 文件、PubMed 和 BrowseComp-Plus。以下所有数字均为报告表 2 至表 4 中的自报数据。

SID-2 Medium:3.11 s 内达到 0.585 NDCG,对比 Claude Opus 5.5(medium)在 25.1 s 内达到 0.577。

SID-2 Swarm,6 个智能体:17.7 s 内达到 0.701 NDCG,对比 GPT-6 Astra(max)在 135 s 内达到 0.704。

SID-2 Swarm,12 个智能体:0.720 NDCG,为表中最高分。

基线:BM25 得分为 0.260,向量搜索加重排序器得分为 0.287。

Swarm 在 19 个语料库中的 11 个上领先。在 WixQA 上,单个高投入智能体以约 232 倍更低的成本匹敌 Astra。在最低投入下,SID-2 以少 13 倍的 FLOPs 击败 4 个并行的 SID-1 运行。

SID-2 对比 GPT-6 Astra 对比 Claude Opus 5.5

特性SID-2(medium)SID-2 Swarm(6 个智能体)GPT-6 Astra(max)Claude Opus 5.5(medium)类型智能体搜索模型多智能体搜索通用 LLM通用 LLM参数量未披露未披露未披露未披露上下文262k(报告)/ 256k(网站)实际无限(每个 SID)未披露1MNDCG,SID 基准0.5850.7010.7040.577每查询推理时间3.11 s17.7 s135 s25.1 s每 1,000 次查询成本$6.54$263$2,141$131API 价格(每 1M 输入 / 输出)$0.25 / $1.00$0.50 / $2.00$10 / $50$4 / $20

NDCG、时间和成本各行由 SID 在其自有基准上测量。检索后端时间不计入。

开发者如何部署 SID-2?

SID-2 可通过 SID 的 API 和 Baseten 使用。提供 Python(sid-sdk)、TypeScript(@sid-ai/sid-sdk)和 Go(github.com/sidhq/sid-go)的 SDK。一个 SageMaker 辅助工具覆盖 AWS 部署。参考实现使用 OpenAI 客户端格式。

SID-2 每百万输入 token 收费 $0.25,每百万输出 token 收费 $1.00。Swarm 收费 $0.50 和 $2.00。缓存输入为输入价格的 10%。

关键要点

SID-2 是一个经强化学习训练的智能体搜索模型,返回排序后的文档 ID。

SID-2 Medium 在 3.11 秒内以 0.585 NDCG 达到与 Opus 5.5 检索相当的水平。

12 智能体组成的 SID-2 Swarm 以 0.720 NDCG 领跑 SID 的基准测试。

定价为每百万输入 token 0.25 美元起,且无需重建索引。

所有结果均为自报;模型规模和权重未披露。

查看 SID-2 技术报告、文档和模型页面。你可以通过我们的 GPULeaderboard.com Chrome 扩展在此查看部署选项和规格。

另外,欢迎在 Twitter 上关注我们,别忘了加入我们 15 万+ 的 ML SubReddit 并订阅我们的新闻通讯。等等!你在用 Telegram 吗?现在你也可以在 Telegram 上加入我们了。

需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等?联系我们

文章《SID AI 发布 SID-2 智能体搜索模型,Swarm 模式达 0.720 NDCG》首发于 MarkTechPost。