微软将把 Azure Maia 芯片扩展至多吉瓦级部署
摘要
微软宣布 Azure Maia 200 已进入量产并承载 Copilot 等生产负载,并计划自 2027 年起将 Maia 系列扩展至多吉瓦级部署、让其成为微软产品的首要推理系统,同时预告面向长上下文与智能体负载的 Maia 300。
核心要点
- Maia 200 已在微软生产负载中运行,支撑 Microsoft Copilot 及 MAI 团队的下一代模型开发,GitHub Copilot 与 Microsoft Foundry 将在年底前接入。
- 这些负载上同时运行 OpenAI 模型、微软自研 MAI 模型以及主流开源模型家族,说明 Maia 面向多架构模型服务,并非只服务单一模型。
- Maia 200 正在美国、欧洲和澳大利亚部署;在 Teams、Copilot、Cowork 的内置 AI 能力上,其每瓦 token 数最高为领先的 GPU 基础设施的 1.7 倍。
- Maia 300 针对长上下文推理、低延迟对话体验和持续的多步智能体任务设计,微软预计其每兆瓦 token 数比领先的 GPU 系统高 40%。
- 在 96 个加速器的满配配置下,Maia 300 的机架级 token 吞吐量最高可达 Maia 200 的 7 倍。
原文佐证
- We will scale our Azure Maia family to multi-gigawatt deployments starting in 2027, making Maia the primary inference system for Microsoft products and services.
- Maia 200 is deploying across the United States, Europe and Australia and delivering up to 1.7x more tokens per watt for built-in AI capabilities in Microsoft Teams, Copilot and Cowork experiences compared with leading GPU infrastructure.
- we expect Maia 300 to deliver 40% more tokens per megawatt compared to leading GPU-based systems
AI 洞察
把推理芯片推到多吉瓦级并定为“首要推理系统”,实质是把成本结构从外购 GPU 转向自研,这会直接压缩英伟达在推理侧的份额与议价空间。竞争度量也从单芯片算力转向“每兆瓦 token 数”这类系统级能效指标,意味着机架、内存带宽与调度协同成为主战场。不过 40% 与 7 倍均为微软自述的预期值,在第三方复现前应视为目标而非既成事实。