Perplexity 发布 Rust 检索引擎 Photon，p99 延迟从 800 ms 降至 65 ms
Perplexity 发布自研检索与排序引擎 Photon，用 Rust 编写，已接管全部生产流量，并支撑 Search API 新增的 Fast Search 模式。单次调用延迟 p50 为 160 ms、p95 为 230 ms，p99 从旧引擎约 800 ms 降至约 65 ms；服务机器减少约 20%，单文档存储量提升约 2.5 倍。旧引擎存在三大瓶颈：p99 约 800 ms、索引合并期 p99 升至约 1.2 s 持续 10 到 15 分钟、集群部署同步超过一周。Photon 以托管 API 形式提供，…
推荐理由做搜索或 RAG 的可以直接用：Fast 模式每 1000 次请求 1 美元，p99 只有 65 ms。