AI工厂是受电力约束的工业系统。当前的核心问题不再是数据中心能塞入多少GPU,而是每兆瓦可用电力能产出多少AI计算量。对于AI推理工作负载而言,这使得应用层面的每瓦性能成为衡量AI工厂效率的关键指标。

并非每兆瓦电力都能转化为产生收益的算力。配电、冷却、网络、存储、备份及设施开销会在电力抵达GPU之前消耗相当份额。静态机架配电方式加剧了这一问题——这种过时的数据中心设计方法按每个机架的最大功耗进行分配,以应对最坏情况下的峰值需求,即便实际工作负载的功耗需求各异,部分最大功率储备可能长期闲置。运营商还需为故障、运维灵活性和未来扩容额外预留容量。

NVIDIA在一份具有代表性的功率预算分析中指出,约60%的现场供电功率被分配给用于AI产出的计算资源。

NVIDIA DSX MaxLPS是一套集芯片、散热、系统和软件技术于一体的解决方案,旨在固定功率预算内最大化AI工厂吞吐量。MaxLPS代表"最大落地功率外壳"(Maximum Land Power Shell),即定义AI工厂的站点级约束条件:土地、市电功率,以及承载电力、冷却、网络和计算基础设施的物理外壳。

MaxLPS针对以下三个层面进行优化:

动态功率分配:持续监测并将闲置的功率余量分配给GPU

高级每瓦性能技术:通过软件功率优化技术在固定功率预算下提升作业级性能

45°C热效率与站点设计:通过温水液冷削减冷却开销,提升电能利用效率(PUE),直接转化为同等固定空间内更多的算力

传统数据中心功率规划假设每个机架可同时以额定最大功率运行,并据此预留足够电力。这种方式能保护设施免受峰值需求冲击,但也将每个机架视为孤立的"电力孤岛"。一个配置了过剩电力的机架无法将闲置功率借给邻近的、本可将其转化为Token的机架使用。

在AI工厂规模下,设施开销、机架损耗以及故障、重启、检查点操作期间的运维低效,都会压缩实际可用于AI负载的电力。静态机架配电还会造成功率余量的闲置浪费:为某个机架峰值需求预留的功率可能长期搁置,而另一个机架本可加以利用。动态功率分配正是针对这部分可回收的机架级余量。

图1展示了一个100兆瓦AI工厂的功率预算瀑布图。在100兆瓦电网输入中,20兆瓦分配给设施开销,10兆瓦为机架损耗,另有10兆瓦因故障、重启和检查点操作期间的运维低效而无法用于AI负载,最终60兆瓦可用于AI负载。

训练、后训练和推理工作负载会经历计算密集爆发、内存受限执行、同步、检查点、预填充、解码、空闲间隙和网络受限通信等多个阶段,每个阶段的功耗各不相同。为确保稳定性,机架须按工作负载的峰值功耗进行配电,但实际能耗在相当长的时间内都低于该峰值水平。

NVIDIA DSX MaxLPS以动态功率分配取代静态功率配置,通过动态功率软件(DPS,目前处于开发者预览阶段)监测并优化数据中心固定功率预算内的功率利用率。DPS是一套完整的功率管理系统,能够从电力层级向下建模数据中心拓扑结构,直至机架、节点和GPU。运营商可定义资源组、功率预算及管控功率分配、约束和执行方式的策略。

在这些边界范围内,DPS持续比对分配功率与实际消耗。当GPU或机架的运行功率低于预留水平时,DPS会将该余量开放给同一管理组内的其他设备使用。站点功率总量保持不变,DPS从现有功率中挖掘出更多生产力。

DPS运行连续控制循环(如图2所示):系统采集GPU、机架和组级功率遥测数据,识别闲置功率容量,在策略范围内重新分配功率,验证是否符合已批准的组功率预算,并尽力响应功率事件或应急策略。

其价值在于跨全集群协调大量功率决策,而非将每个机架视为独立配置单元。当站点预算变化,或电网、维护、应急事件改变可用功率时,DPS无需运营商逐一重新规划每个机架,即可在全数据中心范围内自适应调整运行限制。

图3通过对比静态配电与MaxLPS动态配电的功率利用率,直观呈现了效率提升效果。静态配电搁置了170千瓦功率,而MaxLPS动态配电可回收这部分余量,在同一540千瓦站点功率预算内实现额外机架部署。

DSX Exchange是面向AI工厂运营的开源事件总线(目前处于开发者预览阶段),它为DPS和其他DSX服务与楼宇管理系统、电力监控系统、冷却基础设施、电网接口及计算调度器之间构建了IT/OT事件总线。MaxLPS无需DSX Exchange即可运行,但集成后可暴露季节性冷却余量和设施功率事件等信号,供DPS据此响应。

除机架级功率调度外,MaxLPS还包含软件功能,用于优化每块GPU对已分配功率的使用方式。

DSX MaxLPS为常见数据中心运行模式(包括推理、训练、内存受限和计算受限配置)提供了经过优化的工作负载配置功率方案(WPPS)。运营商无需为每个作业单独调整功率、内存、频率等节点行为,只需应用经过验证的配置文件,即可使计算行为与工作负载匹配。

应用性能与功率管理器(APPM)将所选配置应用于参与的GPU,而NVIDIA Dynamo等软件则可进一步优化推理服务的机架间性能和功率行为。其核心理念是AI工厂整体优化:通过对齐GPU配置、应用行为和服务拓扑,提升全集群每瓦性能和产出。

推理场景提供了最直观的示例,因为每瓦每秒Token数的最大化可直接转化为可度量的工作负载吞吐量提升。同样的配置文件也适用于训练和后训练场景。

NVIDIA预测,对于Vera Rubin NVL72 AI工厂,MaxLPS结合数据中心电力规划,可在相同功率预算内实现最多40%的Rubin GPU容量提升。结合在GB200 NVL72上的实测结果,这些数据充分展示了动态功率管理如何提升AI工厂每兆瓦生产力。

图4展示了MaxLPS在典型推理工作负载下的评测结果:Vera Rubin NVL72使用DeepSeek-R1测试,GB200 NVL72使用Kimi-K2.5测试。MaxLPS将GB200 NVL72的机架额定功率从125千瓦降至90千瓦,Vera Rubin NVL72从136千瓦降至101千瓦,在保持工作负载吞吐量不变的同时,在相同功率范围内分别实现了39%和35%的机架数量提升。GB200 NVL72的每瓦性能提升约1.5倍,Vera Rubin NVL72提升约1.3至1.4倍。

MaxLPS基础设施设计以固定的总设施功率范围为起点,由内向外推算站点在MaxLPS工作点下能够支撑的最大GPU机架位数量,同时为功率、冷却、空间和网络容量确立长期基础设施目标。

第一天的部署量可以低于这一基础设施上限。以训练或后训练为主要工作负载的站点,其平均机架功率可能高于MaxLPS平均工作点。由于每个已装机架消耗的功率更多,在固定设施功率范围内最初能部署的机架数量相应较少。

因此,MaxLPS定义的是全生命周期容量目标,而非要求从一开始就将所有机架位填满。随着工作负载组合在硬件生命周期内逐步向推理转移,平均机架功率可下降至MaxLPS平均工作点,从而在不增加设施功率范围的前提下,创造出可部署更多机架位的余量。

如图5所示,MaxLPS选型从一开始就预判了这一演进趋势:选定GPU产品系列,在45°C直接液冷(DLC)进水口运行条件下设定站点PUE目标,为MaxLPS GPU数量规划东西向网络,并推导出可部署的GPU机架位总数。

预期的第一天工作负载组合决定了这些机架位中初始填充多少。由于空间、配电、冷却和网络容量从一开始就按MaxLPS满容量目标进行配置,运营商可随工作负载演进逐步增加GPU和机架,无需后期进行设施改造。

软件层面的数据中心级功率调度是MaxLPS方案的核心,但并非全部。MaxLPS还依赖芯片、散热和系统层面的技术进步,以确保更多设施电力预算能够真正触达计算基础设施。

Vera Rubin NVL72机架专为45°C液冷进水口运行而设计。更高的冷却液温度听起来似乎有违常理,但其目标是在满足性能、可靠性和使用寿命要求的前提下高效排热。更高的冷却液温度可以让设施更频繁地使用"自然冷却"——即利用室外空气或水排热,同时将机械制冷的使用降到最低。

根据气候条件和站点设计,这种方式可以减少对能耗密集型冷水机组或水耗密集型绝热(蒸发式)冷却器的依赖。冷水机组在高温条件下及保障韧性方面仍不可或缺,但按需使用可降低整体冷却功耗和全年平均PUE。

将节省下来的冷却功率转化为算力,既是设施设计问题,也是运营问题。热排散系统按最坏情况场景进行规模设计,但在典型运行条件下,许多站点所需的冷水机组压缩机功率远低于设计值,尤其是当干式冷却器能够承担更大份额的冷却负载时。如果配电系统、干式冷却器和控制系统具备这种灵活性,那么在极端天气下分配给冷却的功率,在全年大部分时间都可以转化为算力。

技术冷却系统(TCS)回路是技术侧液冷回路,负责在机架、冷板和冷却液分配单元(CDU)之间传递热量,与将热量通过冷水机组、干式冷却器、冷却塔或其他站点设备排散至室外的设施冷却回路协同工作。运行良好的TCS回路需要平衡三个约束条件:

根据GPU热负载调整冷却液流量,使设施回路能够吸收热排散侧的波动

保持在设计的进水口温度和热可靠性限值范围内

响应工作负载驱动的热事件,同时避免产生不稳定性

许多设施使用比例-积分-微分(PID)控制来管理CDU行为。PID控制普遍有效,但本质上是被动响应——只有在传感器检测到偏差后才会做出反应。大型AI工厂会产生快速、同步的热负载变化,因此运营商通常会将回路温度设置得偏低以保留余量。

这种保守的PID控制缓冲方式会浪费本可支撑算力的冷却功率。包括Phaidra在内的智能体控制系统利用功率遥测数据和学习型控制策略来预判热行为。具备45°C热效率的机架无需智能体控制即可正常运行:硬件和设施设计定义了支持的热包络,智能体控制是在此基础上的进一步优化。

图6展示了技术冷却回路与设施冷却回路的关系。TCS回路将GPU冷板的热量传递至CDU,再由CDU传递至设施冷却回路,最终由设施侧的泵、冷水机组、干式冷却器、冷却塔或其他站点设备将热量排散至建筑外部。可选的监测和预测控制系统有助于进一步提升效率。

物理基础设施一旦建成便难以更改。无论是升级现有设施还是规划NVIDIA Vera Rubin NVL72站点,运营商都应从站点层面进行改造或设计,以满足NVIDIA DSX MaxLPS要求,即便第一天并不需要填满所有机架位。这意味着在基础设施决策固化之前,需要验证配电拓扑、冗余性、冷却行为、遥测可用性、策略要求、网络容量、机架位灵活性以及空间或电力限制。

对于评估软件路径的团队,NVIDIA动态功率软件文档和NVL72推理功率试点是入门的起点。范围化验证通过典型工作负载对比无管控静态基线与MaxLPS管控运行,追踪吞吐量、延迟、服务错误率、功耗、利用率和策略合规性等指标。结果将帮助运营商判断何时以及以多快的速度进行扩容,为Vera Rubin NVL72做好准备。

设施团队应尽早与NVIDIA合作,在基础设施固化之前验证站点热设计是否满足45°C进水口运行要求、MaxLPS机架位灵活性及配电弹性。站点级设计决策应尽早做出,且不依赖软件验证结果;软件测试可并行推进,或在后续阶段开展。

将固定功率转化为更多AI产出,受电力限制的AI工厂需要全新的运营模式。静态机架配电会造成功率闲置,而这些功率本可被实际工作负载转化为有价值的AI产出。

NVIDIA DSX MaxLPS从三个维度应对这一挑战:解锁搁置机架容量的动态功率分配软件、提升每瓦产出的每瓦性能技术,以及在保留物理扩容灵活性的同时降低冷却开销的45°C热效率与设施设计。对于规划Vera Rubin NVL72部署的运营商而言,MaxLPS提供了一条在固定功率预算内实现最多40%的Rubin GPU容量提升的可行路径。

Q&A

Q1:NVIDIA DSX MaxLPS是什么,主要解决什么问题?

A:NVIDIA DSX MaxLPS是一套集芯片、散热、系统和软件技术于一体的解决方案,全称为"最大落地功率外壳"(Maximum Land Power Shell)。它主要解决AI工厂在固定功率预算下计算效率不足的问题。传统静态机架配电方式会造成功率闲置,MaxLPS通过动态功率分配、每瓦性能优化和45°C热效率设计三个维度,在不增加站点总电力的前提下,最大化AI工厂的GPU算力产出。

Q2:NVIDIA DSX MaxLPS的动态功率软件DPS是如何工作的?

A:DPS(动态功率软件)持续监测GPU、机架和组级功率遥测数据,识别闲置功率余量,并在运营商设定的策略范围内将其重新分配给同一管理组内其他需要的设备。整个过程形成连续控制循环:采集遥测、识别余量、重新分配、验证合规、响应事件。站点总功率上限不变,DPS的价值在于跨全集群协调大量功率决策,让同等电力产出更多AI算力。

Q3:MaxLPS在实际部署中能带来多大的性能提升?

A:根据NVIDIA的测试数据,MaxLPS可将GB200 NVL72的机架额定功率从125千瓦降至90千瓦,Vera Rubin NVL72从136千瓦降至101千瓦。在保持工作负载吞吐量不变的前提下,相同功率预算内可分别增加39%和35%的机架数量。每瓦性能方面,GB200 NVL72提升约1.5倍,Vera Rubin NVL72提升约1.3至1.4倍。对于Vera Rubin NVL72 AI工厂,MaxLPS结合数据中心电力规划,整体可实现最多40%的Rubin GPU容量提升。

NVIDIA