Perplexity 发布了 pplx-embed-v2-late，一对 ColBERT 风格的多模态嵌入模型。它们有 2 种规模：0.6B 用于快速、低成本的查询，9B 用于最高质量。两个模型都能检索文本、图像和渲染后的 PDF 页面，并且共享同一个嵌入空间。
它可以部署吗？可以，前提是你自己托管。两个模型都以 MIT 许可证发布在 Hugging Face 上。托管的 Perplexity API 端点已规划但尚未上线。
TL;DR
最好的地方
0.6B 模型处理图像时使用约 340M 激活参数，表现接近 8B 的对手。
9B 索引可以用 0.6B 查询来搜索，在 0.6B 查询成本下挽回约一半的 9B 文本质量差距。
它的 128 维 token 向量比对手的 2,048 到 4,096 维窄 16 倍到 32 倍。
MIT 许可证，允许商业使用。
最差的地方
它每个 token 存储 1 个向量，因此索引大小随文档长度增长。
它在 ViDoRe v3 图像检索上不是第 1 名；腾讯的 EVIE 得分更高。
单个输入不能混合文本和图像。
所有分数均为自报，技术报告尚未发布。
模型规模与运行环境
指标pplx-embed-v2-late-0.6bpplx-embed-v2-late-9b总参数594M9B（Hugging Face 标注为 8B）激活参数约 240M 文本、340M 图像7.4B基础模型Qwen3.5-0.8B，裁剪至 12 个文本层Qwen3.5输出每个 token 128 维每个 token 128 维内存中的权重（bf16，我们的估算）约 1.2 GB约 16 到 18 GB目标机器笔记本电脑、边缘设备或小型 GPU数据中心或高内存 GPUPerplexity 建议的角色实时查询编码器，100% 本地构建文档索引
Perplexity 将 0.6B 模型设计为轻量级查询编码器，也可在边缘设备上运行。两个模型卡都显示使用 CUDA GPU。它们需要 sentence-transformers >= 6.0.0 和 transformers >= 5.4.0。内存数字是我们按每参数 2 字节、仅权重所做的估算。已发布的检查点以 F32 存储，这会使下载大小翻倍。
性能表现：最佳与最差分数
以下所有数字均来自 Perplexity 的公告：
基准测试0.6B9B所处位置MADQA（智能体 PDF 问答，准确率）90.1%92.4%（最佳）超过 Mixedbread 的检索器（88.9%）；落后于 Mixedbread Agentic Search（93.4%）领域特定文本（72 项任务，nDCG@10）78.0%81.3%9B 以 1.6pp 领先所有被测模型；0.6B 落后 gemini-embedding-2 0.3ppQ2D-Web（Recall@1000）73.6%74.8%两者均超过此前最佳的 69.3%ViDoRe v3 图像（nDCG@10）62.3%65.2%0.6B 与 nemotron-colembed-v2-8b 相差 1.2pp 以内；EVIE 领先ViDoRe v3 Markdown（nDCG@10）61.2%（最差）64.7%两者均超过所有被测外部模型BrowseComp+（准确率）未给出64.0%（最低）仍比下一个 ColBERT 模型高 4.9pp
最强结果：MADQA 上的 92.4%，由 9B 模型取得。最大差距在 BrowseComp+ 上，比最佳稠密模型高 8.7pp。
最弱结果：ViDoRe v3 Markdown 上的 61.2%，来自 0.6B 模型。它在该基准测试上仍是第二好的成绩。图像搜索才是真正的差距：Gemini Embedding 2 在 MIRACL-Vision 上击败 9B 模型，并在 PPLX-Q2I 上领先 2pp。
混合尺寸：用 0.6B 模型查询 9B 索引，在 ViDoRe v3 图像检索上得分 63.5%。这超过了两侧都用 0.6B 时的 62.3%，且查询成本相同。
工作原理
稠密模型将文档压缩为 1 个向量。pplx-embed-v2-late 则为每个 token 保留一个 128 维向量。它用 MaxSim 打分：每个查询 token 找到其最佳文档 token，然后将这些最大值求和。页面被编码为图像，因此无需 OCR 步骤。Perplexity 使用 LEAF 风格的 token 级训练，从 18B 教师模型蒸馏出这两个模型。正是这种训练创造了共享空间。
最佳用例
最契合的是对 PDF、幻灯片和扫描报告的视觉文档搜索。
低延迟搜索：在云端用 9B 建立索引，然后在设备端用 0.6B 查询。
面向大型 PDF 或网页集合的智能体 RAG。
交互式讲解
对比情况
Featurepplx-embed-v2-lateNVIDIA nemotron-colembed-vl-8b-v2TopK topk-embed-v1Google Gemini Embedding 2Size0.6B, 9B~8.8B0.8B, 2B openNot disclosedVector width128 per token4,096 per token2,048 per token (small)128 to 3,072, 1 vectorInputsText, images, page rendersText queries, page imagesText, page imagesText, image, video, audio, PDFRuns onYour GPU; 0.6B on edgeNVIDIA A100/H100, LinuxCUDA GPU (Ampere+)Google APIShared space across sizesYesNot statedNot statedNot applicableLicenseMITCC-BY-NC-4.0Apache 2.0 (small)Proprietary
关键要点
0.6B 模型适用于边缘设备；9B 模型则为索引时的质量而打造。
最佳得分：在 MADQA 上达到 92.4%。最弱：在 ViDoRe v3 Markdown 上为 61.2%。
0.6B 查询在 9B 索引上，胜过两端都用 0.6B。
存储增长和自报得分是主要的注意事项。
查看 HF 上的模型权重和技术细节。所有功劳归于该项目的研究者。也欢迎在 Twitter 上关注我们，别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 telegram 上吗？现在你也可以在 telegram 上加入我们了。
[赞助] 网络是大多数智能体都缺失的那一个 API。数据库、日历和代码仓库都有 API。开放网络大多没有。TinyFish MCP 服务器为任何 MCP 客户端提供四个工具：TinySearch、TinyFetch（将完整页面转为 markdown，包含 JavaScript）、用于登录和表单的 TinyBrowser，以及用于多步骤任务的 TinyAgent。Search 和 Fetch 免费。
文章 Perplexity AI Releases pplx-embed-v2-late: A 0.6B Edge Model and a 9B Model Scoring 92.4% on MADQA 首次出现在 MarkTechPost 上。