百度发布了 Unlimited OCR 2,这是一个为超长文档构建的开源 OCR 模型。这个 3B 模型能在单次请求中解析数百页的书籍、文件和报告。其核心变化是 SR-SWA,一种让每步解码成本几乎保持平稳的稀疏注意力方案。权重以 MIT 许可证发布,代码在 GitHub 上。
TL;DR
规模:3.34B 参数。激活参数未披露。最大位置长度 131,072 tokens。
运行环境:1 块 CUDA GPU,BF16。百度在 NVIDIA A800-80GB 上测试。BF16 权重总计约 6.7 GB。
性能:在百度测试的两个多页基准测试中均排名第一,对比对象为另外 9 个模型(自报数据)。
最佳:在 MarathonDocBench(数百页)上总体得分 77.1。第二名模型 Kimi-K3 得分为 33.7。
最差:在 MarathonDocBench 的标题层级(TEDS)上得分为 48.2,是其最低的子项得分。
什么是 Unlimited OCR 2?
Unlimited OCR 2 是百度推出的一个 3B 视觉语言模型,可将有序的页面图像转换为结构化文本。输出涵盖文本、表格、公式、图形、标题和阅读顺序。它接替了 2026 年 6 月发布的 Unlimited-OCR,后者旨在将 DeepSeek-OCR 推进一步。
其配置保留了 DeepSeek-OCR 风格的布局。一个 SAM ViT-B 加 CLIP-L 编码器馈入一个 12 层的混合专家解码器。每个 token 路由到 64 个专家中的 6 个,外加 2 个共享专家。DeepSeek-OCR 论文将该解码器描述为 DeepSeek3B-MoE-A570M。百度未说明版本 2 的激活参数数量。在多页模式下,每页消耗 273 个图像 token。
SR-SWA 如何工作?
全注意力的成本随序列长度呈二次增长。在解码过程中,每个新 token 都要扫描更长的 KV 缓存。按每页 273 个图像 token 计算,100 页在任何输出之前就增加了 27,300 个输入 token。
SR-SWA 代表稀疏引用滑动窗口注意力(Sparse Reference Sliding Window Attention)。它将文本-视觉注意力压缩为一组固定的工作引用。百度的模型卡给出的示例大小为 512 tokens。该配置将一个 128 token 的局部窗口与对 32 token 块的 top-16 选择相结合。即 16 个 32 token 的块,与 512 token 的预算相匹配。
随着文档增长,这使每步延迟和内存几乎保持恒定。它将结果称为在有限上下文窗口内的“无限视野”解析。图像编码和总运行时间仍随页数增加而上升。
它在 MPDocBench 和 MarathonDocBench 上的得分如何?
百度团队在 MPDocBench(每份文档数十页)和 MarathonDocBench(数百页)上进行了测试。MPDocBench-Parse 是一个包含 433 份文档、3,246 页的公开基准测试。我们未能找到 MarathonDocBench 的公开版本。
根据百度的排行榜图表,Unlimited OCR 2 在 MPDocBench 上得分为 84.6。Qwen3.8-Max 以 78.3 紧随其后,然后是 Qwen-3.8-Flash-Next 的 77.4。在 MarathonDocBench 上它的得分为 77.1。Kimi-K3 以 33.7 位居其后,然后是 Gemini-3.8-Flash 的 28.6。
两个基准测试之间的落差才是关键。Qwen3.8-Max 在百页文档上从 78.3 降至 22.9。Unlimited OCR 2 下降了 7.5 分。其前代 Unlimited-OCR 在 MarathonDocBench 上得分为 0.0。
子项得分(MPDocBench / MarathonDocBench):
文本:94.8 / 89.6
公式:89.4 / 87.9
阅读顺序:92.3 / 85.3
表格:87.8 / 74.8
标题层级:60.1 / 48.2
在 MPDocBench 上的单项指标差距很小。Qwen3.8-Max 在文本上得分为 94.3,在公式上为 89.2。所有数据均为自报,且仅出现在一张图表图片中。
与其他开源 OCR 模型的对比
Unlimited OCR 2Unlimited-OCRDeepSeek-OCR-2PaddleOCR-VL-1.6开发者BaiduBaiduDeepSeekBaidu PaddlePaddle参数量3.34B3.34B3.39B0.96B激活参数未披露未披露未披露未披露许可证MITMITApache 2.0Apache 2.0论文 / 发布Oct 2026 (report)Jun 2026 (arXiv)Jan 2026 (arXiv)Jun 2026 (arXiv)长文档机制SR-SWA, 512-token reference setMulti-page infer_multi, no SR-SWA未披露未披露MPDocBench 总体84.6 (Baidu)61.9 (Baidu)未报告未报告MarathonDocBench 总体77.1 (Baidu)0.0 (Baidu)未报告未报告服务Transformers, custom SGLangTransformers, vLLM, SGLangTransformers, SGLangPaddleOCR, Transformers
参数量和许可证来自各模型的 Hugging Face 页面。基准测试得分来自百度的图表。
如何运行 Unlimited OCR 2?
模型卡列出了用于快速测试的 Transformers 和用于服务的 SGLang。在 Transformers 中,infer 通过动态平铺处理 1 页,称为 gundam 模式。infer_multi 在 1 次请求中解析文档的每一页,因此模型能保留跨页上下文。加载需要 trust_remote_code=True,这会运行仓库中的 Python 代码。
SGLang 服务使用百度定制的 wheel,而非上游 SGLang。百度的示例每窗口调度 10 页,并复用前一窗口的 KV 尾部。更小的窗口可降低峰值内存,但会削弱跨页合并。百度警告称,默认的 bias 设置可能触发 462 MiB 的分配并导致内存耗尽。
要点
Unlimited OCR 2 是百度推出的 3.34B、MIT 许可的 OCR 模型。
SR-SWA 将注意力限制在固定的 512 token 参考集上。
它在 MarathonDocBench 上得分 77.1,而第二名模型为 33.7。
标题层级是薄弱环节,在长文档上为 48.2。
所有基准测试数字均来自百度自身。
查看模型卡、技术报告和 GitHub 仓库。另外,欢迎在 Twitter 上关注我们,别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub 仓库或 Hugging Face 页面或产品发布或网络研讨会等?联系我们
文章《Baidu Open-Sources Unlimited OCR 2 for Hundred-Page Document Parsing》首发于 MarkTechPost。