AI工厂将能源转化为智能。但在AI工作负载产生首个Token之前,运营商必须先将计算、网络、存储、电力、冷却和软件等相互关联的系统作为一个统一整体投入运行。

在传统数据中心的建设过程中,团队必须首先选址,为部署设计电力和冷却方案,规划数据中心布局,并计划和安装机架及线缆。之后才能逐步验证网络和集群,并使服务上线。这项工作需要协调专业化的劳动力,在安装、基础设施准备和系统测试之间存在关键依赖关系。延误可能会推迟上线时间,以及基础设施开始产生Token的日期。

NVIDIA DSX POD将更多此类工作转移到受控的工厂环境中完成。作为NVIDIA DSX AI工厂平台所支持的多种AI工厂实施模式之一,NVIDIA DSX POD参考设计是标准化的工厂建造实施方案。它使合作伙伴能够构建标准化容器,预先集成AI基础设施,在发货前完成关键验证,并在交付后连接到已准备好的现场基础设施。其结果是一种可重复的方法,旨在降低现场集成的复杂性,帮助运营商更快更可预测地达到具备生产力的AI算力水平。

本文将介绍NVIDIA DSX POD的设计基础,该参考设计如何与NVIDIA Vera Rubin平台保持一致,以及NVIDIA与其生态系统合作伙伴如何在产品工程、部署和支持方面协同工作。

将AI工厂集成前移的设计基础

模块化和预制数据中心已经存在。而AI工厂面临的工程挑战,已经超出了将传统IT设备安装进机柜那么简单。

机架级AI系统将高密度计算、高速纵向扩展与横向扩展网络、液冷、电力分配、遥测和管理软件结合在一起。这些元素作为一个整体系统运行。在工厂集成、运输、安装和运行过程中,它们的机械、电气、热学和网络要求都必须保持在规格范围内。

NVIDIA DSX POD为合作伙伴提供了设计基础,使其能够在工厂内将机架级系统安装进容器,对集成后的单元进行功能测试,运输该单元,并在目的地通过可重复的流程安全地使其上线。NVIDIA的投入涵盖实现这一目标所需的各个工程学科,包括机架布局、结构承重、电力、冷却、线缆、维护通道、可靠性和验证。

这项工作延续了提高工厂集成度、降低安装复杂性、加快部署速度的发展方向。NVIDIA已经从芯片和板卡,发展到完整的机架级系统,以及像NVIDIA DGX SuperPOD这样的大规模参考架构。

NVIDIA DSX POD将这一理念延伸至工厂建造的AI工厂实施方案中,将大部分组件集成工作从客户现场转移到受控的制造环境中。该参考设计并不要求每个AI工厂都必须采用容器化方案。传统数据中心建设和现场集成设计仍然是重要的选项。对于那些将进度可预测性、可重复性以及减少现场工作列为优先事项的大规模部署项目,NVIDIA DSX POD提供了一条标准化路径。

与NVIDIA Vera Rubin平台保持一致的架构

NVIDIA DSX是用于协同设计AI基础设施的广泛设计框架。它将计算、网络、存储、电力、冷却、设施控制和软件整合到数据中心层面。客户和合作伙伴可以以不同的物理形态来实施这一框架。

NVIDIA DSX POD是该广泛设计理念的具体实现方案:一种标准化的AI工厂架构,由工厂建造的容器类型以及它们之间的既定接口组成。该架构围绕NVIDIA Vera Rubin平台及其机架级系统设计。

该参考设计描述的是一个完整的AI工厂,而不是孤立的计算机柜。它涵盖了计算、服务与管理功能、横向扩展网络、存储、电力、冷却、线缆以及其他支持性基础设施。

工厂集成部署的技术要求

NVIDIA DSX POD参考设计的核心目的是使整个部署流程具备可重复性。这需要在以下几个领域进行协调:计算集成、网络与存储、线缆与控制、电力分配、液冷,以及机械设计与运输。

计算集成

NVIDIA DSX POD计算容器专为NVIDIA Vera Rubin机架级基础设施设计。该设计定义了计算机柜及配套机柜如何置入外壳内,以及合作伙伴如何应对结构支撑、重量分布、设备固定、维护空间、气流及液冷通道、机柜级电力和网络连接等问题。

工厂集成还改变了验证的边界范围。合作伙伴不再将每个机柜视为独立运输的货物并在现场组装成集群,而是将已安装好的计算环境作为一个部署单元进行验证。验证计划可以涵盖机柜清单、固件与配置基线、开机检查、网络连接、传感器运行、冷却完整性,以及容器离厂前的系统级功能测试。

网络与存储

AI工作负载依赖于模型数据、训练数据、检查点数据以及推理上下文在整个AI工厂中的可预测流动。因此,该参考设计将网络与存储视为系统架构的一部分,而不是在计算设备到达现场之后才添加的针对特定现场的附加内容。

该设计定义了计算容器内部、容器之间,以及模块化系统与客户外部网络之间所需的连接方式。它涵盖了横向扩展网络架构、服务与管理网络、光纤入口点、主干线缆、线缆布线、标签标识、弯曲半径、维护通道,以及发货前对工厂内安装链路的验证。

存储要求遵循同样的原则。该架构定义了所需的容量、性能、连接方式、管理方式和服务特性,同时允许最终的设备实现方案能够反映部署规模和合作伙伴的解决方案。这使得存储与网络能够作为AI工厂中协调一致的组成部分一同到货,而不是作为独立系统,在现场集成的后期才需要进行协调整合。

线缆与控制

NVIDIA DSX POD减少了机架级部署中现场线缆布设的工作量,在实际可行的情况下,将机柜间网络线缆、电力布线、控制布线以及传感器集成等工作转移到工厂中完成。

该参考设计清晰地定义了线缆路径、隔离要求、端接点、标签标识规范、测试流程以及可维护性要求,帮助合作伙伴在受控条件下轻松安装和测试这些连接,从而减少交付后现场所需的端接工作量。

电力分配

DSX POD通过标准输入800伏直流电力设计实现电力分配的无缝衔接,该设计从核心容器的电力输入开始,贯穿保护、分配、接地、机柜连接、控制和遥测等环节。该参考设计定义了已安装AI基础设施所需的电力特性和接口。随后,合作伙伴会为客户现场工程设计上游发电、转换以及区域电力解决方案。

这种分离十分重要,因为各地区的电力条件、规范、设备可用性以及电网架构存在差异。在容器边界处采用统一接口,能够实现可重复使用的核心设计,同时为生态系统合作伙伴如何为每个部署场所提供电力保留灵活性。

NVIDIA软件可以通过帮助运营商在可用电力限制范围内管理工作负载,来补充物理设计。基于策略的电力控制、工作负载编排以及高精度遥测,可以帮助AI工厂将固定的电力容量转化为更具生产力的计算能力。

液冷

Vera Rubin机架级系统需要协调一致的液冷基础设施。在容器内部,该设计涵盖了连接机柜与容器冷却接口的管路,包括布线、集管、隔离装置、仪器仪表、泄漏检测、压力完整性以及维护通道。

合作伙伴可以在工厂内完成内部冷却回路的组装、冲洗、压力测试和验证工作。在现场,他们将容器连接到已准备好的水源和散热基础设施上,调试整个完整回路,并在运行条件下验证性能。

NVIDIA DSX POD改变的是集成工作发生的地点,而并非取消配套的设施基础设施。

机械设计与运输

将已经安装在外壳中的高价值机架级系统进行运输,需要一种将物流视为工程要求的设计方案。容器结构、设备固定装置、重量分布、重心、起吊与搬运点,以及运输条件都必须协同配合。

该参考设计还将运输要求与工厂质量关卡相连接。合作伙伴在发货前对集成单元进行检查,记录其配置和测试状态,为运输进行加固,并在到达后重复执行既定的检查流程。这一流程有助于确保交付到现场的系统与在工厂验证过的系统保持一致。

并行推进工厂集成与现场准备

工厂建造模式改变了部署的顺序。现场团队可以准备场地、地基、电力和外部连接,同时合作伙伴并行制造和集成容器。

在工厂中,合作伙伴安装机架级系统,完成内部线缆和管路连接,集成控制系统,加载经批准的配置基线,并运行功能测试。在部署现场,施工团队准备容器所需的物理及公共设施接口。

交付后,工作重点转向设备放置、容器间连接,以及与外部电力、冷却和网络的对接。随后,团队确认运输完整性,验证现场连接,并完成系统调试。

这种模式并不能消除现场工作,而是减少了在现场执行的复杂、可重复的集成工作量,并将其转移到一个专为一致化工具使用、质量控制和并行生产而设计的环境中完成。

以标准化部署单元实现扩展

标准化的容器架构为运营商提供了一个用于规划和扩展的可重复单元。在准备好配套的现场基础设施后,运营商可以使用相同的既定接口和验证流程来增加计算和配套容量。

标准化也为软件优化提供了一致的基础。当底层的计算、网络、电力、冷却和遥测架构已知时,针对该环境的软件和运营实践就可以轻松进行调优。合作伙伴仍然可以根据当地规范、现场条件、客户需求以及区域供应链情况,对每一次实施方案进行调整。

这种平衡是NVIDIA DSX POD的核心所在。该参考设计提供可重复使用的NVIDIA工程设计与验证,而生态系统则提供制造能力、现场专业知识、区域工程设计、定制化、部署、服务和支持。

合作伙伴主导的交付模式

NVIDIA提供经过验证的AI基础设施设计基础,并与生态系统合作,证明机架级系统能够作为可重复的工厂建造单元进行集成、测试、运输和部署。

OEM和ODM厂商负责集成计算系统。机械、电气、管路及基础设施专业人员负责将电力和冷却方案适配到现场。模块化解决方案提供商负责制造外壳并集成各子系统。现场合作伙伴负责准备场地、完成安装并支持调试工作。这些合作伙伴共同将参考设计转化为针对特定客户的AI工厂。

这种模式是对模块化数据中心市场的扩展,而非取代现有的产品方案。合作伙伴可以继续提供不同程度的集成服务,从需要客户在现场自行安装设备的模块化基础设施,到完全在工厂集成完毕的部署方案,均可提供。NVIDIA DSX POD为后者提供了一条经过验证的路径,同时在实施和服务方面为差异化保留了空间。

进一步了解NVIDIA DSX POD

AI工厂的价值始于基础设施开始产生Token之时。通过将可重复的集成与验证工作转移到工厂内完成,NVIDIA DSX POD旨在降低建设后期的进度风险,简化现场工作,并使部署更具可预测性。

该参考设计将NVIDIA Vera Rubin计算、网络、存储、电力、冷却、线缆、控制和验证整合为一个协调统一的架构。NVIDIA DSX POD提供工程设计基础,合作伙伴则负责构建、定制、交付并支持最终形成的解决方案。

了解更多关于NVIDIA DSX POD参考设计如何帮助将可用的土地、电力和已准备好的现场基础设施,更快更可预测地转化为具备生产力的AI算力的信息。

NVIDIA