MiniMax M3 现已在 NVIDIA Vera Rubin NVL72 上通过 vLLM 运行!🙌
感谢 @vllm_project、@inferact、@NVIDIAAI、@RedHat_AI 将 MiniMax M3 带到 Rubin。
[引用 @vllm_project] vLLM 现已支持 NVIDIA Vera Rubin。早期结果显示,在 AgentX 上运行 MiniMax M3 时,吞吐量是 GB200 的 7.8 倍以上。
@inferact、@NVIDIAAI、@RedHat_AI 以及 vLLM 社区自 Rubin 发布以来一直在推动 vLLM 在 Rubin 上的适配。以下是目前的进展。
🧵 1/5 https://t.co/iN239Tytko