微软今天宣布推出其第三代内部研发的AI芯片Maia 300,该芯片旨在成为微软产品和服务的"主要AI推理系统"。Maia 300不仅提升了云端AI工作负载运行的成本和效率,还更能胜任处理最新的推理模型和智能体任务。

Maia 300将于2027年开始投入生产使用,设计时充分考虑了效率因素。微软云业务集团执行副总裁斯科特·格思里表示:"与领先的基于GPU的系统相比,我们预计Maia 300每兆瓦能多处理40%的Token。在96个加速器的完整配置下,其机架级Token吞吐量能达到Maia 200的7倍。"

这些效率提升将使微软很快能够主要依赖自研AI芯片,而不再依赖英伟达和AMD的芯片。格思里表示:"从2027年开始,我们将把Azure Maia系列芯片扩展到数吉瓦级的部署规模,使Maia成为微软产品和服务的主要AI推理系统。"

Maia 300是今年1月才发布的Maia 200的继任产品。目前Maia 200已在微软多项生产级AI工作负载中运行,包括Microsoft Copilot、GitHub Copilot、Microsoft Foundry以及微软自家的AI模型。

格思里表示:"按照AI服务的真实世界指标衡量,Maia 200是我们整个基础设施中性能最佳的AI基础设施。Maia 300则是一套完整的AI系统,专为当下涌现的新型AI工作负载而设计:长上下文推理、对延迟敏感的对话体验,以及持续性、多步骤的智能体任务。"

微软正在采用一种新型芯粒(chiplet)架构来实现这一关键的效率提升。基于台积电N2P工艺节点打造,最新的Maia 300架构将计算、内存控制器和输入输出(I/O)功能分离开来。Azure硬件与基础设施团队表示:"这增加了用于计算性能的硅片面积,并使每个功能模块都能采用最适合其角色的技术。"

Maia 300也是微软自研AI模型工作的关键组成部分,有望帮助公司实现追赶谷歌DeepMind、OpenAI和Anthropic的目标。微软AI业务CEO穆斯塔法·苏莱曼表示:"我们必须在全栈范围内开展工作,一直深入到芯片层面。在这样的规模下,我们需要一个自己掌控、并与我们的模型协同设计的平台。这就是为什么在Maia芯片上运行我们的微软AI模型,是我们团队的重要工作重心。"

Q&A

Q1:微软Maia 300芯片是什么?

A:Maia 300是微软研发的第三代内部AI芯片,旨在成为微软产品和服务的主要AI推理系统,能更高效地处理推理模型和智能体任务。

Q2:Maia 300什么时候开始投入使用?

A:Maia 300将于2027年开始投入生产使用,微软计划从2027年起把Azure Maia系列芯片扩展到数吉瓦级的部署规模。

Q3:Maia 300相比之前的芯片有哪些提升?

A:与领先的基于GPU的系统相比,Maia 300每兆瓦能多处理40%的Token;在96个加速器的完整配置下,机架级Token吞吐量能达到上一代Maia 200的7倍。

The Verge