微软公司周一(10月12日)发布了其第三代自研 AI 加速器 Maia 300,并宣布 Maia 200 已投入量产,为 Copilot 及其他微软云服务提供算力支持。
该公司表示,计划在 2027 年实现 Azure Maia 处理器系列的多吉瓦规模部署,使 Maia 成为微软产品和服务的主要推理系统。这一信息来自微软云与 AI 业务执行副总裁斯科特·格思里(Scott Guthrie)发布的一篇博文。
微软表示,Maia 200 已部署在其位于美国、欧洲和澳大利亚的数据中心,每瓦特能够处理的 Token 数量比领先的 GPU 基础设施高出 1.7 倍,并为 Microsoft Teams、Copilot 和 Cowork 中的内置 AI 功能提供支持。根据格思里的博文,到今年年底,该芯片预计还将为 GitHub Copilot 和 Microsoft Foundry(一个用于开发、部署和管理 AI 应用及智能体的平台)提供算力支持。
微软表示,将于 2027 年投入生产部署的 Maia 300 采用了推理优先的架构设计,专门针对“长上下文、内存密集型以及解码密集型的 AI 工作负载”进行了优化。该公司表示,这款芯片预计每兆瓦能够处理的 Token 数量将比领先的基于 GPU 的系统高出 40%,在满配 96 个加速器的机柜中,整机柜级别的 Token 吞吐量最高可达 Maia 200 的七倍。
与其他超大规模云服务商一样,微软在 AI 工作负载方面仍然高度依赖英伟达和 AMD 的 GPU。与此同时,过去几年间,微软一直在打造自己的定制芯片,以提升其基础设施和云服务的性能与效率。
与亚马逊云科技(通过公有云实例提供 Trainium 和 Inferentia 芯片)以及谷歌云(提供 TPU 访问)不同的是,微软尚未通过 Azure 实例向客户工作负载开放 Maia 芯片。在周一发布的博文中,该公司并未透露这一情况未来是否会发生变化。
Moor Insights & Strategy 公司副总裁兼首席分析师马特·金博尔(Matt Kimball)表示,由于微软主要将 Maia 用于内部工作负载,其竞争态势与超大规模云服务商之间的传统芯片之争有所不同。这更多关乎微软及其他云服务商如何更快、更高效、更可靠地交付服务。
金博尔说:“这对客户来说是件好事,因为他们能获得更好的服务质量;对云服务商而言也是好事,因为他们能以更低的成本实现这一点,这意味着他们能获得更高的利润。”
金博尔表示,Maia 300 似乎代表了微软定制芯片战略的重大进展。“Maia 100 是一个概念验证产品。随后 200 发布,他们解决了在 100 身上发现的问题。目前它们正在为 GitHub 和 Copilot 提供算力支持,”他说,“这验证了他们此前所做的设计选择,而到了 300 这一代,他们表示‘让我们放手一搏’,这正是你在 Maia 300 身上所看到的。”
金博尔指出,微软计划以多吉瓦规模部署 Azure Maia 系列芯片,这意味着该芯片将在其基础设施中实现广泛的全球化应用。
他说:“它将被非常广泛地使用,以支持微软在全球范围内的各类工作负载。”
Q&A
Q1:Maia 300是什么?有什么作用?
A:Maia 300是微软发布的第三代自研AI加速器芯片,采用推理优先架构,专为长上下文、内存密集型和解码密集型的AI工作负载优化,预计2027年投入生产部署。
Q2:Maia芯片目前是否对外部客户开放使用?
A:目前没有。与亚马逊云科技和谷歌云不同,微软尚未通过Azure实例向客户工作负载开放Maia芯片,微软也未透露未来是否会改变这一政策。
Q3:Maia 300相比Maia 200性能提升了多少?
A:据微软介绍,Maia 300每兆瓦可处理的Token数量比领先GPU系统高出40%,在满配96个加速器的机柜中,整机柜Token吞吐量最高可达Maia 200的七倍。
