英伟达正在向超大规模云服务商及其他AI开发者开放其机架级AI基础设施,允许接入自定义加速器,将NVLink技术的覆盖范围延伸至英伟达自研处理器之外。

此次与联发科扩大合作,将允许客户基于英伟达NVLink Fusion平台开发自定义AI加速器(XPU)。联发科将以该平台作为其自定义XPU客户的设计基础。英伟达还向联发科发行的可转换债券投资了35亿美元。

英伟达高性能计算与AI超大规模基础设施解决方案高级总监迪翁·哈里斯在周一的媒体答问环节表示:"归根结底,这给了客户更多创新自由,而无需围绕自定义芯片重建整个AI工厂。"

此次公告发布之际,各大超大规模云服务商正纷纷为AI工作负载自研处理器。AWS有Trainium和Inferentia,谷歌有TPU,微软则开发了Maia加速器。

自定义芯片与AI工厂

英伟达表示,NVLink Fusion为将自定义XPU引入英伟达互联的AI工厂提供了经过预验证的基础。

该平台融合了NVLink Fusion连接技术、NVLink-C2C、NVHBM及芯粒技术。客户可使用英伟达的知识产权构建系统各组成部分,同时保留对自定义加速器设计的控制权。

哈里斯表示:"客户可以将精力集中在差异化计算上。"

联发科将为开发XPU的客户提供SoC设计与封装能力,英伟达则提供连接技术和机架级基础设施技术。

哈里斯说:"量产AI工厂需要封装、HBM、I/O和网络。"客户还需在数据中心规模下完成机架级系统的资质认证。

英伟达的MGX生态系统为处理器提供机架级基础设施支撑。

哈里斯表示:"我们打造了这套被称为MGX的出色生态系统,现在所有这些客户都可以接入,无需重新造轮子。"

目前,双方均未透露通过联发科合作关系开发XPU的具体客户名称,也未宣布特定的数据中心部署计划。

异构AI

此次合作正值AI基础设施日趋多元化之际。

Moor Insights & Strategy副总裁兼首席分析师马特·金博尔表示,随着推理工作负载在计算需求中占据更大比重,AI系统将采用更广泛的处理器组合。

"异构化是AI的未来,"金博尔说。

他表示,这包括AWS、谷歌等超大规模云服务商开发的自定义芯片,以及市场上其他地方正在研发的专用加速器。

这些处理器在大型系统内部通信时需要高速连接。

"实际上有三种选择,"金博尔说,"可扩展以太网、NVLink Fusion和UALink。"

以太网是成熟方案。NVLink Fusion是英伟达的纵向扩展技术,用于将自定义加速器连接至英伟达基础设施。UALink则是由一批芯片与基础设施公司共同开发的开放标准,AMD是其支持者之一。

"这些互联结构是为了让纵向扩展更简便、性能更强,"金博尔说,"两者都需要广泛的生态系统支持才能发挥价值。"

英伟达构建NVLink生态系统

英伟达于2025年5月发布NVLink Fusion,此后持续扩大支持该技术的合作伙伴范围。

据金博尔介绍,联发科加入了Astera Labs、Marvell、三星和AIchip的行列,共同支持面向自定义芯片的NVLink Fusion。

Arm、英特尔、高通和SiFive也宣布在CPU侧提供支持。

哈里斯表示,英伟达的目标是让该技术惠及广泛客户群体。

"这将向联发科所有自定义XPU合作伙伴开放,"哈里斯说。

AWS也在采用NVLink Fusion。哈里斯表示,AWS计划将自研处理器与英伟达基础设施混合使用,包括NVLink-C2C和NVLink交换技术。

NVLink Fusion的授权模式尚未对外披露。

"将会涉及一些授权要素,"哈里斯说。

UALink挑战NVLink

UALink为英伟达专有互联技术提供了开放标准替代方案。

AMD是UALink的主要倡导者之一,并将其整合进自家的Helios机架级AI平台。

Helios将72块AMD MI455X加速器与EPYC处理器及Pensando网络方案相结合。AMD在纵向扩展连接上采用UALink,在横向扩展网络上采用基于以太网的方案。

这两种相互竞争的方案,是业界为在AI系统中连接日益增多的加速器所进行的更广泛努力的组成部分。

英伟达的策略是将NVLink的应用范围扩展到英伟达GPU之外。

"英伟达是一家AI基础设施公司,"哈里斯说,"客户需要针对不同工作负载的不同架构。"

超越加速器

英伟达也在将NVLink的应用从GPU互联拓展至更广泛领域。

哈里斯表示,NVLink-C2C可在芯片级别连接CPU与GPU,而NVLink交换技术则为处理器之间提供纵向扩展连接。

英伟达使用Spectrum-X以太网和InfiniBand进行横向扩展网络通信,并将这些技术定位为其网络技术栈中相互补充的组成部分。

当被问及英伟达的长期目标是否在于掌控AI基础设施架构(无论机架内是哪家的加速器)时,哈里斯回应道:"这并非真的关乎所有权,而是关于如何将我们过去数十年构建的所有技术,提供给整个生态系统。"

与联发科的合作还延伸至数据中心基础设施之外,双方正持续推进本地AI计算领域的合作,包括未来的RTX Spark和DGX PC平台,以及采用联发科技术与英伟达AI及图形技术的汽车系统。

就数据中心市场而言,当前最直接的扩展举措是NVLink Fusion及其对联发科客户自定义加速器的支持。

Q&A

Q1:NVLink Fusion平台是什么?它能做什么?

A:NVLink Fusion是英伟达于2025年5月推出的纵向扩展互联平台,融合了NVLink-C2C、NVHBM及芯粒等技术。它的核心作用是让超大规模云服务商和其他AI开发者能够将自研自定义加速器(XPU)接入英伟达的机架级AI基础设施,无需从头重建整套AI工厂,同时保留对自定义芯片设计的控制权。

Q2:英伟达NVLink Fusion和UALink有什么区别?

A:NVLink Fusion是英伟达的专有纵向扩展互联技术,已有联发科、Marvell、三星等多家公司支持;UALink则是由AMD等多家芯片与基础设施公司共同推动的开放标准替代方案,AMD已将其整合进Helios机架级AI平台。两者目标相同,都是让大型AI系统中日益增多的加速器实现高速互联,但一个是英伟达主导的生态,另一个是开放标准路线。

Q3:英伟达为什么向联发科投资35亿美元?

A:英伟达以认购可转换债券的方式向联发科投资35亿美元,这与双方在NVLink Fusion平台上的深度合作直接相关。联发科将基于该平台为其客户提供自定义XPU的SoC设计与封装能力,英伟达则提供连接技术和机架级基础设施。此次投资体现了英伟达将NVLink生态向自定义芯片领域拓展的战略意图。

DataCenterKnowledge