微软于 2026 年 10 月 12 日宣布推出第三代 Maia 300 AI 推理芯片。微软表示,这款芯片旨在运行其大部分云端 AI 服务,从而减少对 Nvidia 和 AMD GPU 的依赖。Maia 300 将于 2027 年开始用于生产工作负载。
Maia 300 有何不同?
这款芯片采用基于 TSMC N2P 工艺的 chiplet 设计。计算、内存控制器和 I/O 分别由独立的硅片承担,因此可以将更多面积用于纯计算。微软声称,与领先的 GPU 系统相比,这种架构能让芯片每兆瓦处理的 token 数量提升 40%。在搭载 96 个加速器的完整机架中,其 token 吞吐量最高可达上一代 Maia 200 的 7 倍。
Maia 300 面向较新的 AI 工作负载,例如长上下文推理、低延迟聊天和多步骤智能体任务。这款芯片已用于微软内部技术栈,为 Microsoft Copilot 和 GitHub Copilot 等产品提供支持。
为何重要
如果效率方面的说法得到证实,Azure 客户使用微软自研硬件运行 AI 服务时,成本可能会更低。这一转变也意味着微软能更好地掌控软硬件技术栈,或有助于加快其 AI 产品功能的推出。
为什么重要
随着微软自研芯片成为主要硬件,Azure 用户使用 AI 推理服务的成本可能会降低。对开发者而言,微软的模型与自研芯片更紧密地集成,可能意味着 Copilot 等服务更新更快、功能更多。