英伟达正在向超大规模云服务商及其他AI开发者开放其机架级AI基础设施,允许接入自定义加速器,将NVLink技术的覆盖范围延伸至英伟达自研处理器之外。
此次与联发科扩大合作,将允许客户基于英伟达NVLink Fusion平台开发自定义AI加速器(XPU)。联发科将以该平台作为其自定义XPU客户的设计基础。英伟达还向联发科发行的可转换债券投资了35亿美元。
英伟达高性能计算与AI超大规模基础设施解决方案高级总监迪翁·哈里斯在周一的媒体答问环节表示:"归根结底,这给了客户更多创新自由,而无需围绕自定义芯片重建整个AI工厂。"
此次公告发布之际,各大超大规模云服务商正纷纷为AI工作负载自研处理器。AWS有Trainium和Inferentia,谷歌有TPU,微软则开发了Maia加速器。
自定义芯片与AI工厂
英伟达表示,NVLink Fusion为将自定义XPU引入英伟达互联的AI工厂提供了经过预验证的基础。
该平台融合了NVLink Fusion连接技术、NVLink-C2C、NVHBM及芯粒技术。客户可使用英伟达的知识产权构建系统各组成部分,同时保留对自定义加速器设计的控制权。
哈里斯表示:"客户可以将精力集中在差异化计算上。"
联发科将为开发XPU的客户提供SoC设计与封装能力,英伟达则提供连接技术和机架级基础设施技术。
哈里斯说:"量产AI工厂需要封装、HBM、I/O和网络。"客户还需在数据中心规模下完成机架级系统的资质认证。
英伟达的MGX生态系统为处理器提供机架级基础设施支撑。
哈里斯表示:"我们打造了这套被称为MGX的出色生态系统,现在所有这些客户都可以接入,无需重新造轮子。"
目前,双方均未透露通过联发科合作关系开发XPU的具体客户名称,也未宣布特定的数据中心部署计划。
异构AI
此次合作正值AI基础设施日趋多元化之际。
Moor Insights & Strategy副总裁兼首席分析师马特·金博尔表示,随着推理工作负载在计算需求中占据更大比重,AI系统将采用更广泛的处理器组合。
"异构化是AI的未来,"金博尔说。
他表示,这包括AWS、谷歌等超大规模云服务商开发的自定义芯片,以及市场上其他地方正在研发的专用加速器。
这些处理器在大型系统内部通信时需要高速连接。
"实际上有三种选择,"金博尔说,"可扩展以太网、NVLink Fusion和UALink。"
以太网是成熟方案。NVLink Fusion是英伟达的纵向扩展技术,用于将自定义加速器连接至英伟达基础设施。UALink则是由一批芯片与基础设施公司共同开发的开放标准,AMD是其支持者之一。
"这些互联结构是为了让纵向扩展更简便、性能更强,"金博尔说,"两者都需要广泛的生态系统支持才能发挥价值。"
英伟达构建NVLink生态系统
英伟达于2025年5月发布NVLink Fusion,此后持续扩大支持该技术的合作伙伴范围。
据金博尔介绍,联发科加入了Astera Labs、Marvell、三星和AIchip的行列,共同支持面向自定义芯片的NVLink Fusion。
Arm、英特尔、高通和SiFive也宣布在CPU侧提供支持。
哈里斯表示,英伟达的目标是让该技术惠及广泛客户群体。
"这将向联发科所有自定义XPU合作伙伴开放,"哈里斯说。
AWS也在采用NVLink Fusion。哈里斯表示,AWS计划将自研处理器与英伟达基础设施混合使用,包括NVLink-C2C和NVLink交换技术。
NVLink Fusion的授权模式尚未对外披露。
"将会涉及一些授权要素,"哈里斯说。
UALink挑战NVLink
UALink为英伟达专有互联技术提供了开放标准替代方案。
AMD是UALink的主要倡导者之一,并将其整合进自家的Helios机架级AI平台。
Helios将72块AMD MI455X加速器与EPYC处理器及Pensando网络方案相结合。AMD在纵向扩展连接上采用UALink,在横向扩展网络上采用基于以太网的方案。
这两种相互竞争的方案,是业界为在AI系统中连接日益增多的加速器所进行的更广泛努力的组成部分。
英伟达的策略是将NVLink的应用范围扩展到英伟达GPU之外。
"英伟达是一家AI基础设施公司,"哈里斯说,"客户需要针对不同工作负载的不同架构。"
超越加速器
英伟达也在将NVLink的应用从GPU互联拓展至更广泛领域。
哈里斯表示,NVLink-C2C可在芯片级别连接CPU与GPU,而NVLink交换技术则为处理器之间提供纵向扩展连接。
英伟达使用Spectrum-X以太网和InfiniBand进行横向扩展网络通信,并将这些技术定位为其网络技术栈中相互补充的组成部分。
当被问及英伟达的长期目标是否在于掌控AI基础设施架构(无论机架内是哪家的加速器)时,哈里斯回应道:"这并非真的关乎所有权,而是关于如何将我们过去数十年构建的所有技术,提供给整个生态系统。"
与联发科的合作还延伸至数据中心基础设施之外,双方正持续推进本地AI计算领域的合作,包括未来的RTX Spark和DGX PC平台,以及采用联发科技术与英伟达AI及图形技术的汽车系统。
就数据中心市场而言,当前最直接的扩展举措是NVLink Fusion及其对联发科客户自定义加速器的支持。
Q&A
Q1:NVLink Fusion平台是什么?它能做什么?
A:NVLink Fusion是英伟达于2025年5月推出的纵向扩展互联平台,融合了NVLink-C2C、NVHBM及芯粒等技术。它的核心作用是让超大规模云服务商和其他AI开发者能够将自研自定义加速器(XPU)接入英伟达的机架级AI基础设施,无需从头重建整套AI工厂,同时保留对自定义芯片设计的控制权。
Q2:英伟达NVLink Fusion和UALink有什么区别?
A:NVLink Fusion是英伟达的专有纵向扩展互联技术,已有联发科、Marvell、三星等多家公司支持;UALink则是由AMD等多家芯片与基础设施公司共同推动的开放标准替代方案,AMD已将其整合进Helios机架级AI平台。两者目标相同,都是让大型AI系统中日益增多的加速器实现高速互联,但一个是英伟达主导的生态,另一个是开放标准路线。
Q3:英伟达为什么向联发科投资35亿美元?
A:英伟达以认购可转换债券的方式向联发科投资35亿美元,这与双方在NVLink Fusion平台上的深度合作直接相关。联发科将基于该平台为其客户提供自定义XPU的SoC设计与封装能力,英伟达则提供连接技术和机架级基础设施。此次投资体现了英伟达将NVLink生态向自定义芯片领域拓展的战略意图。
