随着AI智能体处理的工作流程日益复杂,缩短训练时间对于快速迭代模型及其驱动的智能体至关重要。MLPerf Training v6.1标志着NVIDIA Vera Rubin架构的首次亮相,这些早期结果表明其CUDA软件栈已经高度成熟。在首次参测中,Vera Rubin NVL72平台在七项基准测试中的六项取得了最快训练时间,相较于经过高度优化的NVIDIA GB300 NVL72基线,性能提升最高达2倍。
在第七项基准测试DeepSeek-V3 671B中,NVIDIA通过在1万240个GPU组成的GB300 NVL72集群上展示超大规模能力,取得了本轮测试中绝对意义上的最快成绩。这种双平台策略有意展示了两套系统各自的优势。GB300的测试结果凸显了NVIDIA当前部署的庞大且可靠的集群规模,而Vera Rubin则展示了自身卓越的扩展架构,在从256个GPU扩展到1024个GPU时仍保持97%以上的整体效率。综合来看,NVIDIA平台在v6.1的每一项基准测试中都保持着最快训练时间的纪录。
NVIDIA平台也是唯一在全部七项基准测试中提交结果的平台,Vera Rubin在首次运行中就成功完成了整套测试。对开发者而言,这种广泛覆盖的意义不亚于任何单项顶尖数据。这证明了平台在首日就已具备的性能提升贯穿整个建模流程,全面支持从大规模预训练到现代AI智能体所需的强化学习后训练的各个环节。
全面覆盖MLPerf训练基准测试的AI性能表现
解读本轮测试结果最简单的方式是逐项基准来看:在相同模型下,新平台每个GPU能带来多少性能提升?
MLPerf Training v6.1结果于2026年11月16日从www.mlcommons.org检索获得,来源条目包括:6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129以及6.1-0038。MLPerf名称及标志是MLCommons协会在美国及其他国家的商标。保留所有权利,严禁未经授权使用。详情请访问www.mlcommons.org。
规律显而易见:最大的性能提升出现在规模最大、通信开销最重的模型上。虽然该平台在整套测试套件的其余部分性能稳定提升1.4倍至1.6倍,但在处理规模庞大的DeepSeek-V3基准测试时,代际优势进一步扩大。
该测试套件涵盖自然语言、图像生成、推荐系统和强化学习等多个领域,因此性能提升在多种模态以及不同模型结构和架构中均得以保持。
DeepSeek-V3 671B:最苛刻工作负载下单GPU性能翻倍
DeepSeek-V3 671B是一个拥有6710亿参数的无Token丢弃混合专家(MoE)模型,是该测试套件中要求最高的工作负载。专家并行机制使得每次迭代都伴随着一轮全对全(all-to-all)通信爆发,因此网络架构的效率会直接体现在训练时间上。
Vera Rubin NVL72使用跨16个机柜的1024个GPU,在4.14分钟内完成了该基准测试训练。而GB300 NVL72在完全相同的1024-GPU配置下耗时8.03分钟,接近单GPU性能翻倍,是本轮测试中代际提升幅度最大的结果。训练时间减半意味着团队每个季度能运行的实验数量大约翻倍,而实验吞吐量正是推动模型质量提升的关键因素。
在更大规模上,GB300 NVL72创造了本轮测试中绝对意义上最快的成绩:在1万240个GPU上耗时1.38分钟。这意味着一项训练任务分布在160个机柜上,每个机柜都是独立的NVLink域,这展示了该平台的横向扩展网络架构在任务规模远超单个机柜后依然保持稳定运行的能力。
后训练环节登场,Vera Rubin领先一筹
MLPerf Training v6.1新增了首个智能体大语言模型强化学习后训练基准测试——Qwen 3.5 397B GRPO,这反映了AI开发领域的根本性转变。后训练已成为决定智能体准确性的关键差异化因素,这使得GRPO工作负载的要求格外苛刻。生成推演结果、评分及更新权重的持续循环,迫使系统架构在推理引擎和训练引擎之间进行持续的大规模权重迁移,从而将系统性能推向极限。
Vera Rubin NVL72在这项新基准测试中以1024个GPU、10.44分钟(6.1-0117)的成绩取得最快训练时间,而同等规模下GB300 NVL72(6.1-0031)耗时13.78分钟。Vera Rubin平台还通过提交两种不同推理后端的结果证明了其灵活性:采用NVIDIA NeMo RL搭配TensorRT-LLM耗时10.44分钟,搭配vLLM则耗时10.94分钟(6.1-0118)。在如此新的基准测试中同时提供两种可行的推理后端,这既说明了芯片实力,也同样说明了软件成熟度。
要训练这些模型具备观察、推理和行动能力,需要在模拟环境中运行每一次推演,并执行工具调用、代码或API验证。由于驱动这些模拟过程对CPU的依赖极大,NVIDIA Vera CPU成为该架构不可或缺的一部分,能在单个Vera CPU机柜的256个CPU上支持超过2万2500个并发强化学习环境。
当GPU负责大规模Token生成和快速权重更新时,Vera CPU同步协作模拟各类环境,确保加速器能持续获得完善智能体工作流程所需的丰富反馈。
NVLink、Quantum-X与Spectrum-X:为高效AI扩展协同设计的网络架构
以上每一项结果同时也是一项网络架构的成果。现代AI训练需要数千个处理器协同运作如同一体,NVIDIA通过协同设计机柜内部域和外部集群网络架构来应对这一挑战。
在机柜内部,Vera Rubin NVL72通过铜制NVLink 6主干将72个GPU和36个CPU连接起来。该全对全互联域提供每GPU 3.6 TB/s、每机柜260 TB/s的带宽,使MoE专家调度不会成为性能瓶颈。在机柜之外,该平台通过ConnectX-9 SuperNIC,借助Quantum-X800 InfiniBand或Spectrum-X以太网实现横向扩展。为应对MoE流量的突发特性,两种网络架构均采用自适应路由和拥塞控制机制,使全对全通信隐藏在计算层之后,不产生额外延迟。
这种协同设计直接转化为效率提升。在DeepSeek-V3基准测试中,Vera Rubin NVL72从256个GPU扩展到1024个GPU(4个机柜扩展到16个机柜)时,扩展效率保持在97%以上。GB300 NVL72则展示了该平台的大规模能力,扩展到1万240个GPU,取得本轮测试中绝对意义上最快的成绩。
由于NVL72架构始终提供一致的72-GPU互联域,开发者在每一代平台升级时都能获得可预测的性能提升,而无需改变其运营模式。每个迭代周期只需在同样稳定的网络架构基础上,带来更多的算力和带宽。
MLPerf Training v6.1结果于2026年11月16日从www.mlcommons.org检索获得,来源条目包括:6.1-0045、6.1-0030和6.1-0116。比率经过四舍五入处理。
持续的软件优化:无需硬件升级即可解锁更快的预训练速度
Vera Rubin的测试结果来自客户实际获得的NVIDIA AI软件栈:预训练基准测试使用NVIDIA NeMo Framework 26.09,强化学习基准测试使用NVIDIA NeMo RL,FLUX.1和DLRMv4则使用NVIDIA PyTorch版本。这些优化措施与我们在MLPerf Training v6.0轮次中所描述的一致。
该软件栈在测试轮次结束后仍在持续演进。自v6.1提交结果定稿以来,我们已在相同硬件和配置下使用更新的软件版本重新运行了多项基准测试。这些是未经验证的结果,而非MLCommons官方提交结果,我们分享这些数据是为了展示持续优化如何使NVIDIA基础设施保持高度的生产力、耐用性和灵活性。
表2展示了NVIDIA在相同配置下使用更新软件栈重新运行基准测试的结果(未经验证结果尚未经过MLCommons协会验证,也未经过MLPerf审核,其测量方法和/或工作负载实现可能与已验证结果的MLPerf规范存在不一致之处)。
MLPerf Training v6.1结果于2026年11月16日从www.mlcommons.org检索获得,来源条目包括:6.1-0138、6.1-0073、6.1-0049、6.1-0135、6.1-0038和6.1-0129。比率经过四舍五入处理。
这正是成熟软件栈对客户的意义所在:基础设施在出货后会持续变快,性能改进不断涌现,从而延长平台的有效使用周期和创收潜力。
由于CUDA平台具有高度可编程性,客户可以自行解锁更多性能。例如,Thinking Machines Lab为其Inkling 2 Small模型在GB300 NVL72上开发了一套NVFP4训练方案和自定义内核,在前向传播的MoE矩阵乘法运算中使用NVFP4,在梯度计算中使用MXFP8。与完全采用MXFP8训练相比,该方案将预训练和微调速度提升了8%,强化学习速度提升了20%,且对精度影响极小。
首日即已成熟的生态系统
Vera Rubin在MLPerf Training v6.1中的首秀证明了该架构已为全球范围内的即时部署做好准备。在本轮全部封闭组提交结果中,80%运行于NVIDIA平台之上,涉及20家合作伙伴机构,这些基准测试代表的是跨云厂商和OEM厂商可复现的性能表现,而非孤立的实验室峰值数据。
目前该系统已在多家云基础设施合作伙伴处全面上市,为全球众多AI工厂部署项目提供支持。如今,Vera Rubin在全部七项工作负载的单GPU性能上保持领先,而Blackwell与Blackwell Ultra则继续保持规模纪录。微软Azure提交的2560节点、1万240个GPU的GB200 NVL72测试结果与NVIDIA的1万240-GPU GB300 NVL72测试结果打平,共同创造了本轮测试中最大规模集群的纪录。
合作伙伴也在节点级别不断突破该架构的性能极限:Firmus采用AI驱动的内核生成技术,配合自动化性能测试和数学验证,创造了本轮测试中GB300 8-GPU配置下的最快成绩,在52.90分钟内完成GPT-OSS 20B训练(6.1-0091),在52.40分钟内完成Llama 3.1 8B训练(6.1-0094)。由于这些平台共享一套持续优化的CUDA软件栈,开发者可以预期,在下一轮MLPerf测试开始之前,这些首发测试数据还将稳步攀升。
随着Vera Rubin软件栈像Blackwell软件栈当初那样逐渐成熟,预计这些初期的性能优势将在整个平台生命周期中持续释放出更大的价值。
如需了解更多关于NVIDIA Vera Rubin NVL72平台的信息,请查看完整的MLPerf Training v6.1测试结果,或阅读我们的MLPerf Endpoints v1.0博客文章,了解Vera Rubin如何在智能体推理领域引领行业。
