AMD推出Helios,这是其迄今为止规模最大的AI基础设施产品,专为前沿AI与主权计算设计。Helios围绕AMD下一代Instinct GPU、EPYC Venice处理器、Pensando网络方案及ROCm软件栈构建。

EIIRTrend & Pareekh Consulting首席执行官Pareekh Jain表示:"Helios是AMD首款将GPU、CPU与网络整合在一起的完整AI机架系统,而非单独销售芯片。它非常适合训练大型AI模型、内存密集型模型、长上下文处理及大规模推理,是AMD迄今为止挑战英伟达主导地位最有力的一击。"

AMD还为Helios拿下了一个早期超大规模部署客户——微软已同意部署Helios,用于支撑其前沿模型AI推理、AI客户服务及Azure AI服务。

Helios代表AMD在AI基础设施领域的最新布局,旨在强化其在英伟达持续主导的市场中的竞争地位。与此前以单一加速器为核心的AMD AI产品不同,Helios被设计为一套完整的机架级系统,将计算、网络与软件深度整合。

Jain指出,Helios的直接竞争对手是英伟达的Vera Rubin机架。"英伟达在原始推理速度和芯片间内部连接速度上更快,而AMD在内存容量上更具优势,且性价比和能效表现更好。Helios最突出的特点是内存——每个机架的总内存容量比英伟达同类系统高出约50%,有助于运行超大规模AI模型。此外,它采用开放的行业标准接口,而非英伟达的私有技术,为采购方提供了更大的灵活性。"

AMD Helios机架级设计搭载72块AMD Instinct MI455X GPU,配备AMD EPYC Venice CPU,并采用基于UALink的AMD Pensando Vulcano网络方案,在计算、数据传输和系统效率方面均经过优化。该平台同时支持OCP和MX数据类型,可提供高达2.9 EFLOPS的FP4算力和1.4 EFLOPS的FP8算力,适用于AI训练与推理场景。

Helios还集成了31TB HBM4内存,内存带宽达19.6TB/s;液冷设计采用快速断开连接,可高效散热。该系统基于开放标准构建,包括OCP Open Rack Wide(ORW)、超级加速器链路(UALink)和超级以太网联盟(UEC),可在数据中心内高效扩展,同时优化现代AI基础设施的功耗、散热与可维护性。

在安全性方面,Helios在每一层均引入了硬件信任根与持续证明机制,支持硬件强制隔离、内存加密及互联加密,有助于在多租户环境中保护AI模型、数据和工作负载。

尽管Helios的发布有助于AMD在硬件层面缩小与英伟达机架级系统的差距,但软件兼容性才是推动企业采用的真正关键。

为此,AMD也在持续扩展其ROCm AI软件平台。ROCm支持PyTorch、TensorFlow和JAX等主流框架,可实现高吞吐量推理和高效分布式训练,同时保留开发者熟悉的工作流程。

Jain表示,尽管在内存带宽上实现硬件对等甚至超越是可行的,但软件成熟度仍是英伟达的核心差异化优势。英伟达的CUDA软件已有15至20年的先发优势,几乎所有AI工具、教程和代码库都默认基于CUDA构建。

他补充道,软件一直是AMD的短板。ROCm已有大幅改进,但在最新的专项优化方面仍有差距,且配置部署也更为复杂。对于日常AI工作,ROCm已基本可用,但在追求极致性能的场景下,CUDA仍占据领先地位。

对于正在评估AI基础设施的CIO而言,Helios的发布为这个长期由英伟达主导的市场带来了新的选择。但在做出平台决策之前,CIO们仍需综合评估性能表现、软件就绪度、部署模式、采购周期及总拥有成本等多项因素。

AMD尚未公布Helios的具体定价,但Jain认为其采购和运营成本将明显低于竞品,原因在于更低的芯片价格和更低的单GPU功耗。

"它为企业提供了英伟达之外真正可行的第二选择,有助于缓解供应紧张局面,并在采购谈判中增加筹码。关键的制约因素在于软件——团队需要验证其AI工具能否在AMD软件栈上良好运行,因为部分高级工具目前仍仅支持CUDA。"Jain说道。

对于计划同时部署两套系统的CIO,Jain提醒:两套系统无法直接互联组成一台机器,因为它们采用不同且互不兼容的连接技术。但企业完全可以在同一数据中心并行运行两套系统,作为各自独立、承担不同任务的系统分开使用。

Q&A

Q1:AMD Helios是什么?有哪些核心特点?

A:AMD Helios是AMD推出的首款完整机架级AI基础设施系统,将GPU、CPU与网络整合在一起。它搭载72块Instinct MI455X GPU、EPYC Venice CPU和Pensando网络方案,集成31TB HBM4内存,内存容量比英伟达同类系统高约50%,采用开放行业标准接口,适用于大模型训练、长上下文处理和大规模推理场景。

Q2:AMD Helios和英伟达Vera Rubin机架相比有什么优劣势?

A:Helios的优势在于内存容量更大(约多50%)、性价比更高、能效更好,且采用开放标准接口,灵活性更强。劣势在于英伟达在原始推理速度和芯片间互联速度上更快,且CUDA软件生态有15至20年的先发优势,ROCm在最新专项优化方面仍有差距,配置也更复杂。

Q3:企业在考虑部署AMD Helios时需要注意哪些问题?

A:企业需重点评估软件兼容性,确认现有AI工具能否在ROCm软件栈上正常运行,因为部分高级工具目前仍仅支持CUDA。此外,Helios与英伟达系统采用不兼容的连接技术,无法直接互联,只能在数据中心内作为独立系统并行运行。CIO还需综合考量性能、部署模式、采购周期和总拥有成本。

Networkworld