人工智能芯片巨头英伟达今日发布了新一代Vera Rubin平台的最新性能基准测试数据及架构里程碑成果,该平台正加速向全球市场推进。

这批新数据表现亮眼,但从更宏观的角度来看,它们同样印证了英伟达独特方法论的有效性——将定制芯片与更广泛的硬件生态系统相结合,辅以积极的软件优化,从而为AI工作负载持续挖掘更高的效率提升空间。

最新里程碑展示了英伟达在精调其生态系统方面所付出的努力,以应对下一代"智能体"AI工作负载对性能的更高要求,以及持续攀升的基础设施成本。

亮眼的性能提升

此次最受关注的成果之一来自英伟达合作伙伴CoreWeave。这家新兴云计算公司提供基于GPU平台的云端租用服务。在早期生产测试中,CoreWeave展示了其在新Vera Rubin平台上运行深度求索R1模型时,每瓦Token产出量相比上一代基于Blackwell架构的GB200 NVL72系统提升了惊人的10倍。

这一跃升令人印象深刻,但CoreWeave同时表明,Vera Rubin所采用的优化方案同样可以应用于GB200 NVL72系统,使其每兆瓦吞吐量在三个月内提升了四倍以上。英伟达表示,上述成果经过超过25万种不同配置及逾140万GPU小时的测试验证。

英伟达还披露了Vera处理器的最新数据。Vera CPU专为运行能够以极少人工干预代替人类完成任务的自主AI智能体而设计,采用代号为"奥林匹斯核心"的定制微架构,针对AI智能体的不规则控制流进行了深度优化。最新基准测试显示,Vera CPU的智能体处理性能较x86架构方案快1.9倍,延迟降低6倍。此外,英伟达还展示了Vera在部分行业基准测试中超越AMD旗舰EPYC Turin CPU近100%的成绩,进一步凸显了定制芯片在消除CPU侧性能瓶颈方面的重要价值。

基础设施层面的优化

英伟达的处理器无疑是业界顶尖水准,但该公司也明确表示,这些性能提升离不开其硬件与软件协同设计的核心战略。英伟达同步开发与芯片配套的软件及网络系统,以最大化处理器性能,并提升能耗与散热效率。

英伟达透露,通过动态优化全套基础设施与能源管理体系,可在相同功耗范围内部署多出40%的GPU。与此同时,该公司还展示了其新处理器在环保方面的成效——采用45°C闭环液冷系统,与标准冷却方式相比,每兆瓦每年可节约约400万加仑水资源。

在网络互联方面,英伟达介绍了最新一代网络架构,展示其持续超越主流以太网架构的能力。第六代NVLink 6互联技术在超大规模大语言模型的模拟解码吞吐量方面,比基于以太网的网络方案高出2.3倍。

与此同时,英伟达的Spectrum-X平台实现了1.6倍更快的远程直接内存访问带宽,所需交换机数量减少1.7倍。英伟达表示,这一集成网络方案带来了5倍的光功率效率提升和10倍的可靠性增强。英伟达还特别披露,最新一代Spectrum-6平台已开始进入CoreWeave、微软、Nebius、SpaceXAI及特斯拉等客户的AI工厂。

目前,英伟达正加速向客户和合作伙伴交付Vera Rubin系统,包括谷歌云、微软Azure、Meta、甲骨文云基础设施、戴尔科技、OpenAI及CoreWeave等。随着这些平台逐步接近全面上市,此次最新基准数据的发布显然是英伟达的一次战略性亮相,旨在向市场证明:英伟达已集齐所有拼图,可以帮助客户构建面向未来的"AI工厂"。

Q&A

Q1:Vera Rubin平台相比上一代GB200 NVL72系统性能提升了多少?

A:根据英伟达合作伙伴CoreWeave的早期生产测试,Vera Rubin平台在运行深度求索R1模型时,每瓦Token产出量相比GB200 NVL72系统提升了10倍。此外,针对GB200 NVL72系统的同款优化方案,也在三个月内使其每兆瓦吞吐量提升了四倍以上,整体优化成果经超过25万种配置及140万GPU小时验证。

Q2:英伟达Vera CPU在智能体AI任务上的表现如何?

A:英伟达Vera CPU采用代号"奥林匹斯核心"的定制微架构,专门针对AI智能体不规则的控制流进行优化。最新基准测试显示,Vera CPU的智能体处理性能比x86架构方案快1.9倍,延迟降低6倍,同时在部分行业标准测试中超越AMD旗舰EPYC Turin CPU近100%,有效消除了CPU侧的性能瓶颈。

Q3:英伟达NVLink 6和Spectrum-X网络方案有哪些具体提升?

A:第六代NVLink 6互联技术在超大规模大语言模型模拟解码吞吐量方面,比基于以太网的网络方案高出2.3倍。Spectrum-X平台则实现了1.6倍更快的远程直接内存访问带宽,交换机数量减少1.7倍,同时带来5倍光功率效率提升和10倍可靠性增强。最新的Spectrum-6平台已开始进入CoreWeave、微软等客户的AI工厂。

SiliconANGLE