Baseten 旗下 Base Labs 发布 2B 决策模型 joey-1，它不生成文本，而是对每个问题返回标签和校准后的概率，面向高并发路由、分类和护栏检查。定价为每百万输入 token 0.01 美元，权重以 MIT 协议开源在 Hugging Face。模型基于 Qwen3.5-2B 全量微调，视觉编码器冻结，训练数据 621 万条决策样本。在 Jev Decision Index 0.4 公开集上得分 63.30，为 4B 以下最高，但比同系列 9B 的 elephant-1 低 8.94 分。平均 20…
推荐理由每百万 token 0.01 美元、20 ms 延迟，做分类和路由比调大模型便宜两个数量级
Prime Intellect 在 DeepSeek 开源 DeepGEMM 库的 Mega MoE 内核基础上补上了反向传播实现，使其可用于训练而非仅推理。在 Qwen3-30B-A3B 和 Qwen3-235B-A22B 上测试，完整训练步比 prime-rl 基线快 32% 到 34%，比 TorchTitan 快 48% 到 55%；单层前向最快提升 3.11 倍（12.0 ms 降至 3.9 ms），反向最差也有 1.24 倍。支持 Hopper 的 blockwise FP8 与 Blackwell 的…
推荐理由训练 MoE 可直接省 30% 以上 GPU 小时，代码在 prime-rl 里能换
开源工具 Overtone 发布，用一个 .overtone.json 文件存储每个词的发音时间和说话人，再按不同画幅分别切分字幕，默认支持 16:9 和 9:16，也可自定义任意比例。CLI 可从已有字幕、音频或视频生成该文件，离线运行不需要 API key 和 ffmpeg（需 Node.js 22.12+）；转录音频时默认调用 OpenAI 和 Azure AI Speech，--dry-run 可预估费用，--local 则改用 whisper.cpp 和 Ollama 离线处理。配套 video.js 插…
推荐理由做竖屏和横屏双版本字幕的人可以直接用，npx 一条命令就能重切现有 SRT，离线免费
Mistral 在 Hugging Face 上发布了 Mistral Large 4 的权重，这是该公司迄今最大的模型，昵称 Le Chonk。该模型支持文本和图像输入，输出文本和代码，总参数约 1 万亿，每步激活 520 亿。自行部署需要大量硬件：按 SGLang 文档，标准版需 8 块 Nvidia B300 GPU，高度压缩版需 4 块 GB300。经过三周强化学习训练后，Terminal-Bench 4.0 得分从 28% 升至 41%，略高于 GLM-5.3 的 40%；在 Artificial Ana…
推荐理由万亿参数、8 卡 B300 可跑，编码得分追平 GLM-5.3 且省 47% token，可评估自部署性价比
Mistral 在 Hugging Face 和 API 上放出了万亿参数模型 Mistral Large 4（ML4）的权重，企业和政府机构可以自行下载、本地部署。该模型本月早些时候发布，绰号“Le Chonk”。Mistral 称，ML4 的性能与中国的开源模型 GLM-5.3 相当，但每个任务少用 47% 的 token，成本更低；在 Artificial Analysis 的 Coding Agent Index 上，它在 agentic coding 任务中排名所有开源模型第一。Mistral 科学副总裁…
推荐理由万亿参数开源模型，每任务 token 用量比 GLM-5.3 少 47%，做私有化安全部署可直接下载权重
开发者发布开源权重模型 Subscription Ghost，读取用户的订阅清单，判断哪些属于「幽灵订阅」，并给出具体处理建议和可省金额。它把幽灵订阅分为四类：套餐层级过高（只用到捆绑包的一小部分）、已弃用（预付一年后不再使用）、几乎不用、价格悄悄上涨。在一个样本用户的 9 项订阅中，它找出每年 29056 卢比的隐性支出。模型完全在本地运行，免费，不要求用户提供银行登录信息。作者本人的案例是：Airtel Black 捆绑的 Prime 免费一年到期后自动续费 1499 卢比，而他只用 Prime 的配送服务，3…
推荐理由想用本地模型做个人财务分析，可参考它的四类订阅分类法和提示设计
开发者发布两个 Swift 包：AnySpeechRecognizer 沿用 Apple 的 SpeechAnalyzer API，但可换用 NVIDIA Parakeet v3、Moondream 微调的 Parakeet Ultra 和阿里 Qwen3-ASR 等本地引擎，并新增说话人分离；AnyDecisionModel 用模型概率而非生成文本回答是/否、多选和评分问题，返回带概率的类型化结果，可跑在 MLX、Core AI、llama.cpp 或 Jev、Ollama 上。两者都能从 HF Mirror H…
推荐理由想在 iOS/macOS 上本地做语音识别和分类决策的开发者，改一行 import 就能换引擎
vLLM 宣布在发布当天支持 Mistral Large 4。这是 Mistral 的新一代 MoE 原生多模态模型，总参数 1 万亿，每 token 激活 49B（含嵌入和输出层为 52B）。架构为 72 层 MoE、128 个路由专家（top-4）加 1 个共享专家，采用 MLA 加 DSA 稀疏索引器（每 query 选 top 2048 个 key），并带有 Pixtral 视觉编码器和内置 DSpark 推测解码草稿器。提供 FP8 与 NVFP4 两种 checkpoint，默认使用 FP8 潜在 KV…
推荐理由想自己部署 1T 级开源多模态模型的人，可以直接用官方 Docker 镜像和现成启动命令，在 8 卡上运行 FP8
Hugging Face 联合卡内基梅隆大学、普渡大学、佐治亚理工、亚利桑那州立大学、乔治·华盛顿大学等机构发起 Project ProtoStar，推动公共资助科研的数据集、模型和代码以 AI 可用的机器可读格式开放。美国联邦政府每年研发投入约 1900 亿美元，但科研数据常分散在互不兼容的系统中，缺少元数据和溯源信息，AI 难以发现和复用。首个挑战赛由卡内基梅隆大学主办，11 月 2 日开放。
推荐理由做科研数据或 AI for Science 的人可以关注 11 月 2 日开放的首个挑战赛
Mistral 发布 Mistral Large 4（代号 Le Chonk），这是一个多模态、多语言的 MoE 模型，总参数约 1T、激活参数 49B，上下文窗口 100 万 token，支持文本和图像输入。官方提供 FP8 和 NVFP4 两个版本，Unsloth 与 llama.cpp 团队另做了 GGUF 量化版。许可为 Mistral Ecosystem Open-Weight License（MIT 衍生协议，对模型即服务有限制）。官方称其在网络安全、编码 Agent 和多模态上表现突出：Artific…
推荐理由1T 总参、49B 激活、100 万上下文，且权重可下载，做安全或编码 Agent 可直接自部署
Akai 尚未正式发布 MPC Sample Key，但已向开发者提前提供设备，并宣布其固件将开源。该设备沿用 MPC Sample 的软件，针对传统键盘、弯音轮和调制轮做了调整，没有打击垫，改用琴键触发采样。Akai 在 Instagram 短片中展示了多个由 vibe coding 生成的模组，包括 Native Instruments Massive、虚拟模拟合成器和 FM 合成器，其中一个模组运行完全自定义的操作系统。短片还显示，普通版 MPC Sample 也将获得相同的社区功能，并能运行由 Claude…
推荐理由音乐硬件厂商首次公开拥抱 AI 辅助模改，开源固件和 SDK 意味着开发者可以自己往合成器里装音源。
Nvidia 发布免费开源权重模型 Nemotron 3.5 Transcribe，支持最多 40 种语言的音频转录，可在 31 种语言与英语之间互译，能处理最长 1 小时的录音，并区分最多 8 位说话人。Nvidia 称其在 Hugging Face Open ASR Leaderboard 等基准上优于竞品。该模型有 300 亿参数，可单芯片运行，覆盖 Jetson AGX Thor、DGX Spark 和 Blackwell 数据中心芯片。同时发布开源语音数据集 Granary 第 2 版。局限是不支持实时直…
推荐理由300 亿参数可单芯片跑、支持 40 种语言转录，做会议或医疗转写可直接评估替换方案
Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究者发布 FlashMap 投机解码草稿模型，用连续流映射替代离散扩散草稿器，一次前向传播生成 16 个 token 的完整块。在 Qwen3-8B 上，GSM8K 任务报告最高 6.14 倍无损加速（temperature 0，接受长度 7.69 token）；最差情况是 Alpaca 在 temperature 1 下的 2.28 倍。草稿器参数量 0.5B（Qwen3-8B 用 500M，Qwen3…
推荐理由有 Hugging Face 权重和 vLLM/SGLang 插件，部署 Qwen3-8B 可直接试 6.14…
Paper Instruments 基于 GLM-5.3 Flash 用强化学习训练出 Ultramarine 1 Flash，在内部知识工作基准上得分 59.3，超过 Fable 5 的 57.8，单任务成本 0.13 美元对 8.19 美元，低约 98%。训练使用 Fireworks Training API，团队保留对数据、采样、损失函数和训练循环的控制。该模型在 6 个知识工作基准上平均比基座模型高 4.1 分，现已通过 Fireworks 无服务器推理开放试用。
推荐理由单任务 0.13 美元对 8.19 美元，做金融、法律类 Agent 可先测这个开源替代
加州大学伯克利分校 Sky Computing Lab 开源 LEANN 向量索引，它不在磁盘上保存 embedding，而是在查询时重新计算。仓库基准显示，6000 万条 Wikipedia 分块的索引从 201 GB 降到 6 GB；论文中 76 GB 语料的方案只需 4 GB，而 HNSW 需 188 GB。该论文获 MLSys 2026 最佳研究论文奖。代价是检索变慢：NQ 数据集上检索耗时 2.48 秒，HNSW 为 0.05 秒，端到端延迟从 20.95 秒升至 23.34 秒；在 Mac 上，Hotp…
推荐理由存储省 97%，代价是检索慢几十倍；在笔记本上跑个人数据 RAG 值得试
Liquid AI 发布 LFM3 系列，6 个开源权重模型共享同一底座，覆盖文本、视觉、音频、全模态和决策任务，每个模型都能在单张 GPU 上微调。LFM3-1.7B 有 1.73B 参数、256K 上下文，4-bit 量化后约 1 GB 内存即可运行，提供 GGUF、MLX、ONNX、FP8、NVFP4 权重。官方评测称其 29 项基准平均 49.37，高于 Qwen3.5-9B 的 47.24；IFEval 96.66，AutomationBench 41.29 对 15.10。短板是知识类：GPQA Dia…
推荐理由1 GB 内存跑 1.7B 模型，AutomationBench 是 Qwen3.5-9B 的 2.7 倍
开发者推出开源项目 Survival LLM，AI 模型和资料库全部运行在本地电脑上，断网后仍可使用，提问内容不会离开本机。内置资料包括医疗参考、FEMA 与 CDC 指南、生存手册、维修指南和约 93 万篇维基百科文章，每条回答都会列出所引用的文章，并高亮其中的具体段落。应用会根据电脑内存自动选择模型：128 GB 以上的 Mac 使用 NVIDIA Nemotron 3.5 Super（80 GB），32–96 GB 的 Mac 使用 Qwen3.8 27B（18 GB），32 GB 以上的 Windows P…
推荐理由断网应急场景可直接用，按内存选模型有明确对照表，Granite 版仅 6 GB 下载
DEV Community 发布了一篇对比文章，梳理 5 个开源 LLM 网关：Bifrost（独立 Go 网关，支持模型、MCP 和 Agent 流量控制）、Kong AI Gateway（在 Kong Gateway 内提供 AI 能力）、Agent Router（基于 Envoy Gateway 和 Kubernetes）、Apache APISIX（通用 API 网关加 AI 插件）、LiteLLM（专注模型路由）。文章提醒开源不等于全部功能免费或可自托管，采用前需核对许可证和功能边界，并给出选型维度：供应…
推荐理由选 LLM 网关前先看这张对比表，能省掉逐个查许可证和功能边界的时间
Opera 发布名为 WebAI 的新网页标准，让用户直接在浏览器里运行 AI 模型，无需依赖云端。该标准不绑定特定模型，支持 Google 的开放权重模型 Gemma，在 Mac 上还支持 Apple 的设备端基础模型。功能已在旗舰浏览器 Opera One 中以早期预览形式上线，需用户主动选择开启；Opera GX 和 Opera Neon 将随后支持。Opera 称开发者无需自建 AI 基础设施或按请求付费，用户无需订阅，数据留在本地设备。代价是本地运行会占用更多电脑资源，性能取决于硬件。
推荐理由浏览器本地跑模型，开发者可省掉推理基础设施和按次计费，隐私敏感场景多一个选项
vLLM Semantic Router 团队发布 d3-ultra，一个 27B 多模态决策模型，采用 Apache-2.0 许可。它不生成文本，而是读一次输入后，为每个问题的每个答案返回概率，可一次调用完成路由、分类、视觉定位和视频检查。参数 26.09B（dense，含 0.46B 视觉编码器），上下文 131,072 tokens，在 1 块 AMD MI325X 上以 BF16 测试，暂无官方量化版本。团队自建 SR-Text 测试得分 87.2，居 6 个决策模型之首；SR-Box 定位 10 个领域 …
推荐理由做模型路由或多模态分类的开发者可看：一次调用替代多模型，SR-Text 87.2 分居首
百度开源 Unlimited OCR 2，一个 3.34B 参数的视觉语言模型，可在单次请求中解析数百页书籍、财报和报告，权重以 MIT 协议发布，代码在 GitHub。核心改动是 SR-SWA 稀疏注意力，把文本-视觉注意力压缩到固定 512 token 的工作参考集，使解码每步延迟和显存几乎不随文档变长而增长。最大位置长度 131,072 token，每页 273 个图像 token，BF16 权重约 6.7 GB，单张 A800-80GB 可跑。百度自测 MPDocBench 得 84.6 排第一（Qwen3…
推荐理由百页文档场景下领先 Kimi-K3 达 43 分，MIT 协议单卡可部署，做长文档解析可直接试
Nace AI 发布面向 AI Agent 的检索层 Drex for Search，在 BrowseComp-Plus 上搭配 GPT-5 得分 92.05%，每题平均 12.6 次搜索调用。它通过 CLI、SDK、MCP 或 REST 接入 Claude Code、Codex、Cursor、OpenCode 等编码 Agent，可检索 100 万以上文件，支持托管云、自有 AWS/Azure 及本地离线部署。在 OfficeQA Pro 测试中，9 组 Agent 与模型组合平均多答对 6%、步数减少 62%、…
推荐理由做 RAG 或 Agent 检索的可以直接看：token 省 56%、步数减 62%，还支持 MCP 接入
一个名为 Earth Platform 的 Minecraft 模组在 Hacker News 的 Show HN 板块发布，它按 1:1 比例生成真实地球，一个方块对应一米。世界高度范围从 Y -16384 到 16383，珠峰峰顶位于海平面以上 8848 格。地形数据来自公开卫星与测绘数据：美国约 10 米精度、加拿大部分地区用 lidar、法国 1 至 5 米、日本 5 至 10 米、南极用 REMA。远景以体素绘制到约 94 公里，可在暂停菜单调到 201 公里，极限设置下可达 397 公里。支持创造模式下…
推荐理由想在自己电脑上爬珠峰、横渡大洋的玩家，按教程装 NeoForge 和 jar 即可开玩
清华大学与香港中文大学的研究者开源了 AKV，这是一个面向 LLM Agent 的 KV 缓存工程服务系统，基于 SGLang 构建，采用 Apache-2.0 许可。它的做法是不再摘要旧历史，而是直接丢弃选定的 KV 缓存条目，并继续复用其余部分。在 3 个模型和 4 个 Agent 基准上，平均成本下降 27.7%，平均任务得分提高 1.7 分。测试模型包括 GPT-OSS-120B、MiniMax-M2.7 和 MiroThinker-1.7-Mini，运行在 NVIDIA GPU 上，论文使用 8 张 A8…
推荐理由做 Agent 长任务可省 27.7% 成本，SWE-bench 单任务从 20 美分降到 9.7 美分
BOSS 直聘旗下 Nanbeige LLM Lab 在 Hugging Face 以 Apache 2.0 协议发布 Nanbeige4.3-33B，这是一个 33B 稠密模型，面向 Agent 编码和办公协作任务，支持 524,288 token 上下文，BF16 权重约 66 GB，需多卡部署，官方给出 4 路张量并行的 SGLang 和 vLLM 配置。同时发布 Base 版供自定义后训练。在官方自测中，该模型在 20 项基准里领先 Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-3…
推荐理由Apache 2.0 可商用，512K 上下文，Terminal-Bench 2.1 比 Qwen3.8-27B 高…
Hugging Face Bio 发布 Carbon-X，一个 14.8B 参数的 DNA 语言模型，采用 Apache 2.0 许可，权重可下载。它基于 Qwen3-14B，把 DNA 和自然语言放进同一个 token 流，可直接在对话中读原始 DNA 并用英文回答，支持突变致病性预测、调控区标注、物种分类和碱基预测。上下文 40,960 token，单张 80 GB GPU 可跑，官方 GGUF 量化版 Q4_K_M 仅 9.6 GB。5 项 DNA 基准平均 66.7%，自称优于所有被测开源模型，比 GPT-…
推荐理由Apache 2.0 权重可本地部署，单张 80 GB 卡或 9.6 GB 量化版就能跑，敏感序列不用出实验室。
Reddit 的 r/opensource 版块版主发布新提交规则：凡使用 AI、由 AI 生成或面向 AI 的项目一律不欢迎，理由是“AI 与开源社区不相容”。新规还要求项目至少存在一年、有活跃维护和多名贡献者，并实质禁止非英语用户发言，因为版主无法区分 AI 写作与 AI 翻译。规则引发大量争议，有人指出 Linux 内核已含 AI 生成代码，按新规也可能被禁；社区还另建了 r/trueopensource。版主 Wolvereness 回应称会保留一定裁量空间，例如带 AI 自动字幕的无障碍功能可豁免。
推荐理由开源社区首次以版规形式全面排斥 AI 项目，做开源或社区运营的可以看看这条边界是怎么划的。
英伟达开源数据引擎 Flora，据其估算，标注 1 小时机器人视频成本约 0.72 美元，而用 GPT-6 Astra 约需 88.5 美元。Flora 由三个微调的 Qwen3.5 模型组成：9B 模型切分动作片段，27B 模型结合上下文描述动作，另一个 27B 模型 Flora-Rewarder 负责打分。在 50 个视频的测试中，Flora 的标注质量略高于 GPT-6 Astra（57.1% 对 53.7%）。该系统已在 GR00T 模型训练中使用，每天在 512 块 GB300 GPU 上标注最多 20 …
推荐理由做机器人数据标注的团队可以直接在 Hugging Face 下载三个 Qwen3.5 微调模型
南京大学、商汤等机构发布 OpenMobile-2，基于 Qwen3.5 和 Qwen3.6 构建 9B 和 27B 两个手机操作 Agent，并开源完整训练环境、数据和复现说明。团队重建淘宝、京东、滴滴、美团、Slack、Google Drive 等 35 个应用，加上模拟器和 Android 模拟环境共覆盖 110 多个应用，生成约 11600 条示例流程和 2000 多个带自动校验的练习任务。27B 模型在 AndroidWorld 从 67.1 升至 79.9 分，在真实设备 SPA-Bench 上从 31…
推荐理由开源了 110 多个应用的可重置训练环境和 27B 手机 Agent，做移动端 Agent 可直接复现
Cognition 发布 Devin Vulnerability Fixes 插件，采用 MIT 许可免费开源，包含三个 Agent Skill，分别修复 PHP2Shell、Node.js 10 月安全版本和自管理 GitLab 的远程代码执行漏洞。其中 GitLab CVE-2026-110264 为整数溢出，CVSS 10.0，影响 7.0 起所有 CE/EE。插件可在 Devin、Claude Code、Codex、Cursor、GitHub Copilot 等读取 SKILL.md 的编码 Agent 中…
推荐理由手上有 PHP、Node.js 或自建 GitLab 的团队，可以直接用这三个 Skill 批量出补丁 PR
MarkTechPost 发布教程，介绍 Underdog Saluki 27B：它是 Qwen3.8-27B 的 7.9 GB 量化版本，作者称在约 2 bit 每权重下仍保留工具调用能力，并在其自建的 120 项基准上略胜 54 GB 全量模型。Saluki 基于 ISTA-DASLab 对同一模型的 GSQ-RCO 量化。教程在原生 llama.cpp 中并排对比两个文件：逐张量比对 GGUF 头、逐字节比较，判断 Saluki 是 ISTA 量化结果的再加工还是改过的模型；随后在单张 GPU 上分别部署，记…
推荐理由想在单卡上跑 27B 工具调用模型的人，可照教程复现 7.9 GB 版本与 54 GB 全量版的对比测试。
One of the most frequently asked questions we get is how we deploy large models on Cerebras wafer-scale chips. A single Cerebras WSE-3T wafer has 44 GB of on-chip memory, and trillion-parameter frontier models need terab…
推荐理由模型发布/更新类信息，来自 Hacker News · AI，建议按需查看原文。
开发者以 Apache-2.0 协议开源窄带 TTS 模型 Hurston-1，称其对美式英语表现良好，尤其擅长美国南方口音和地区性非裔英语口音。作者表示自 2021 年起收集了超过 2 万人的完全授权语音数据、共 100 万条录音。模型托管在 Hugging Face，作者所在公司 Destined AI 位于亚特兰大。
推荐理由需要非标准美式口音语音合成的开发者可直接取用，Apache-2.0 可商用，训练数据规模 100 万条录音。
NVIDIA 发布开源小模型 Nemotron 3.5 Bolt E4B，总参数 8B、有效参数 4B、64K 上下文，Q4_K_M 量化后在 RTX 上占用 3.1–4.3 GB 显存，可运行于 GeForce RTX、Jetson、DGX Spark 等设备。该模型基于 Google Gemma 4 E4B，仅用强化学习后训练，未做监督微调。NVIDIA 自测在 21 项基准中 15 项领先 Gemma 4 E4B、Qwen3.5-4B 和 Nemotron 3 Nano 4B，IHEval 得 84.8（Ge…
推荐理由4GB 显存即可本地跑语音 Agent，还留出空间给语音和视觉模型，做端侧产品的可以直接试
Kyutai 发布开源因果扩散表征自编码器 CADRE，专为交互式世界模型设计，解决动作延迟问题。论文称其世界模型在单张 H100 上以 20 fps 运行，反应时间在 230 ms 以内。CADRE 包含 7 个自编码器，每个约 4.76 亿训练参数，外加一个冻结的 8600 万参数 DINOv3 ViT-B/16；世界模型为 12 亿参数，视频分辨率 288×512。在 48 项对比中，有 42 项比 MIRA、Wan 2.2、Cosmos、LTX-2 更快且更好；驾驶场景 FVD 为 162.6，Wan 2.…
推荐理由做世界模型和机器人策略的可以直接看：单卡 H100 跑 20 fps、延迟 185 ms，但动作跟随是短板
月之暗面今日在 Kimi API 上线 Kimi K3.1 Pro，完整模型权重承诺于 2026 年 11 月 4 日前开源。定价为输入 2 美元/百万 token、输出 10 美元/百万 token，与 GPT-6.1 Sol 持平，是 Claude Opus 5.5 的一半。另提供 Highspeed 版本，速度提升 2-3 倍，价格翻倍，但输入 token 缓存命中价格不变。Artificial Analysis 给出 55 分，超过 Claude Fable 5.1、GPT-6 Astra 和 Gemini…
推荐理由开源前先看价格：输出仅为 Opus 5.5 一半，AA 评分 55 分只差 3 分，可先按 API 试用。
开发者发布 Windows 应用 Break Buddy，用 Ollama 本地模型生成不重复的提醒文案，可自定义人格（如讽刺朋友、海盗），并按活跃窗口判断是否在开会时暂缓提醒。用户用一句话描述需求即可生成配置，无需设置界面。默认模型为 gemma4:e4b，需 Windows、Python 和 Ollama，从克隆到首次弹窗约 5 分钟，代码已开源。
推荐理由想试本地小模型落地的，可看它如何用 Ollama 结构化输出把一句话变成配置文件
开发者 Sarvar 在 Hacktoberfest 开源 AI 挑战赛中做出工具 Unpile：在本地离线运行模型，读取 Pocket、Instapaper、浏览器书签或 CSV 导出的待读列表，根据用户真实阅读历史判断每篇文章是保留、略读还是删除，并给出概率。演示中 14 篇保留 5 篇、标记 1 篇待定、删除 8 篇，称省下 5.5 小时阅读时间。全程不联网、无账号、无费用，代码已开源。
推荐理由有大量未读收藏的人可以直接用这个本地工具，按自己的阅读习惯自动筛掉大部分积压文章。
You.com 上线 Inference Router，一个兼容 OpenAI 和 Anthropic 接口的托管 API，可在 12 个开源权重模型间路由请求，承诺 99.9% 最低可用性 SLA 和零数据保留（ZDR），全部托管在美国境内，按 token 计费且不收平台费。模型从 GPT-OSS 120B（125K 上下文）到 Kimi K3、Qwen3.8 Max（1M 上下文），Kimi K3 为 2.8T 参数，Qwen3.8 Max 为 2.4T MoE。请求先走自有推理容量，满载或故障时切换到 Par…
推荐理由需要合规 ZDR 和美国托管、又不想签大额承诺的团队，改个 base URL 就能接入 12 个开源模型。
vLLM 在发布当天就支持了 MiniMax-M3.1-Flash，覆盖 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU。该模型采用 NVFP4 KV cache、NVFP4 量化 MoE 权重和 DSpark 投机解码草稿模型。性能方面：Blackwell 上索引器 QK 解码快 1.7 倍，稀疏注意力解码快 1.3 倍；在 4× GB300、512K 上下文下，索引器解码上下文并行快 3.3 倍；AMD MI350 系列整体提升 2–3 倍。Agentic 场景下，GB300…
推荐理由要在 Blackwell、Rubin 或 MI350 上部署 MiniMax-M3.1-Flash