微软发布第三代自研 AI 芯片 Maia 300

微软今天发布了其第三代 Maia 自研 AI 芯片，旨在成为微软产品和服务的“主要 AI 推理系统”。Maia 300 不仅提升了在云端运行 AI 工作负载的成本和效率，还更有能力处理最新的推理模型和智能体任务。

Maia 300 将于 2027 年开始投入生产部署，其设计充分考虑了效率。“我们预计 Maia 300 每兆瓦的 token 吞吐量将比领先的基于 GPU 的系统高出 40%，”Scott Guthrie 表示，他是微软云集团的执行副总裁。“而在完整的 96 加速器配置下，其机架级 token 吞吐量可达 Maia 200 的 7 倍。”

这些效率提升将使微软很快能够主要依赖其自研 AI 芯片，而非 Nvidia 和 AMD 的芯片。“从 2027 年开始，我们将把 Azure Maia 系列扩展到数吉瓦规模的部署，使 Maia 成为微软产品和服务的主要 AI 推理系统，”Guthrie 表示。

Maia 300 是 Maia 200 的继任者，后者仅在今年 1 月才发布。Maia 200 已在微软的生产 AI 工作负载上运行，包括 Microsoft Copilot、GitHub Copilot、Microsoft Foundry 以及微软自家的 AI 模型。

“以 AI 服务的真实世界指标衡量，Maia 200 是我们集群中性能最佳的 AI 基础设施，”Guthrie 表示。“Maia 300 是一个完整的 AI 系统，专为当今涌现的新型 AI 工作负载而设计：长上下文推理、对延迟敏感的对话体验，以及持续的多步骤智能体任务。”

微软正在采用新的 chiplet 架构来实现其至关重要的效率提升。最新的 Maia 300 架构基于台积电的 N2P 制程节点，将计算、内存控制器和 I/O 功能分离。“这增加了专用于计算性能的硅面积，并让每个功能都能使用最适合其角色的技术，”Azure 硬件和基础设施团队表示。

Maia 300 也是微软自家 AI 模型工作的关键组成部分，可能有助于该公司实现其追赶的目标与 Google DeepMind、OpenAI 和 Anthropic 合作。“我们必须打通整个技术栈，一直深入到芯片层面，”Microsoft AI CEO Mustafa Suleyman 表示。“在那种规模下，我们需要一个自己拥有、并与我们的模型协同设计的平台。这就是为什么让我们的 Microsoft AI 模型运行在 Maia 芯片之上，是我们团队的关键重点。”