# 微软计划2027年将Azure Maia扩展至多吉瓦级推理

> Azure Maia 300将于2027年开始量产。微软称其每兆瓦可处理的token比顶尖GPU系统多40%，但这一说法受到技术层面的质疑。

Oossa · 2026-10-16 · https://oossa.com/zh/microsoft-expands-azure-maia-to-multi-gigawatt-inference-in-2027

微软宣布，从2027年起，Azure Maia系列将扩展至多吉瓦级部署。新款Maia 300加速器面向需要处理长上下文和大量解码的推理任务，而非模型训练。微软称，Maia 300每兆瓦可处理的token比领先的GPU系统多40%，机架级token吞吐量最高可达前代Maia 200的七倍。

## Maia 300的配置

每块Maia 300加速器配备8组HBM4内存堆栈，提供288 GB高速内存和18 TB/s带宽，功耗为950瓦。一个机架可容纳96块加速器，分布在24个托盘中，功耗为167 kW，并提供27.6 TB HBM内存和1.7 PB/s的总带宽。这些芯片采用TSMC的N2P制程，并使用NUMA内存布局，让软件能够将数据放在靠近计算核心的位置。

系统网络采用基于以太网的定制AI传输技术。在机架级“superpod”中，加速器无需经过主机CPU或独立网卡，就能直接与任意同伴通信。最多可连接128个机架，组成一台配备12,288块加速器的superpod。微软称，这种网络架构还能让备用托盘无缝替换故障托盘。

## 效率说法引发质疑

“每瓦token数”这一核心指标被一些评论者称为“荒谬”。他们指出，token的定义并不统一，而且该指标忽略了延迟或单个token的成本等因素。质疑者还追问，微软声称提升40%时采用了多长的上下文，并指出长上下文工作负载通常受内存限制，而非计算能力限制。

## 事实

- Maia 200已投入生产，用于支持Microsoft Copilot和MAI团队；GitHub Copilot和Microsoft Foundry预计将在2026年底前跟进。
- Maia 300将于2027年开始部署量产，主要面向推理优先型工作负载。
- 每块Maia 300加速器功耗为950 W，配备288 GB HBM4内存，带宽为18 TB/s；一台由96块加速器组成的机架功耗为167 kW，总带宽为1.7 PB/s。
- 微软称，Maia 300每兆瓦可处理的token比领先的GPU系统多40%，机架级token吞吐量最高可达Maia 200的七倍。
- 定制AI网络架构可在一台superpod中连接分布于128个机架的最多12,288块加速器。

## 为什么重要

如果效率提升的说法属实，这款新硬件可能让微软自有服务的用户获得更快响应，同时降低能耗成本。不过，微软尚未说明外部客户能否租用Maia算力，因此目前这项优势可能仍只会体现在微软自家产品中。

## 来源与参考

1. [Microsoft Commits Maia to Multi-Gigawatt Inference, and Its Efficiency Metric Draws Questions](https://www.infoq.com/news/2026/10/azure-maia-300/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=AI%2C+ML+%26+Data+Engineering) – InfoQ, 2026-10-16

最后更新: 2026-10-16