当一家科技公司说要建设百万GPU集群,外界最容易计算的是芯片数量。Meta披露的Prometheus却给出了另一种算法:为了让32768颗GPU持续参与训练,系统要实际配置37656颗GPU,多出来约13%。在超大规模训练中,买到GPU只是第一步,能稳定调用多少GPU才决定有效算力。

在2026年10月19日发布的官方工程文章中,Meta拆解了Prometheus。位于俄亥俄州新奥尔巴尼的Prometheus首期已经完成,并用于训练Muse系列模型。它由分布在多栋建筑中的数十万颗GPU组成,满配目标约为100万颗。

规模越大,系统越不像普通数据中心。芯片故障、信号波动或供电变化,都可能让整项训练暂停。Prometheus暴露出的商业事实是,AI基础设施的交付单位已经从服务器和机架,转向网络、供电、冷却、固件与运维组成的系统。

从普通机房到跨建筑超级集群

两年前,新奥尔巴尼还承担常规互联网业务。Meta随后改造硬件、网络和建筑设计,把传统机房、AI专用建筑与快速部署结构连接起来,再叠加自有和租赁容量,让分散设施协同运行。

这种建设方式解决了一个现实矛盾。百万GPU不可能等到所有专用机房一次建成后再上线。传统建筑提供现成空间,快速部署结构缩短交付周期,AI专用楼则承接密度更高的新一代机架。不同年代的设施由统一网络和调度系统衔接,建设进度与算力投产可以并行推进。

网络决定这些GPU能否保持同步。每个建筑级以太网Fabric最多连接20736颗GPU,跨建筑聚合网络的链路跨度从2公里延伸到100多公里。整个Prometheus涉及数百万英里光纤、数万台交换机和数百万只光模块,楼内使用短距可插拔光模块,超过约10公里的连接则使用800G相干光模块。

13%的冗余,买的是训练连续性

NVL72把72颗GPU组成一个高速互连域,带宽提高了,故障影响范围也从上一代NVL8的8颗扩大到72颗。一个域内包含5184条经过调校、速率为200Gbps的差分信号链路,连接GPU、PCB、线缆组件和交换托盘。任何薄弱点都可能触发恢复流程。

Meta没有把72颗GPU全部计入训练容量,而是按64颗划分工作切片,留下8颗作为机架内备件,并额外保留约2%的备用机架。以32768颗有效GPU的任务为例,实际要部署523个NVL72机架,共37656颗GPU。约13%的差额中,大部分来自64颗工作、8颗备用的结构安排。

这笔冗余不是闲置。GPU出现故障后,备用芯片可以立即接替,训练从最近的检查点恢复,无需等待现场维修。Prometheus早期在2025年年中曾出现每8000颗GPU每天接近1000次中断。经过一年优化,中断次数下降99%。Muse Wonder预训练的有效计算占比超过85%,强化学习超过90%。

170kW机架把电力与液冷推到前台

Prometheus正在从GB200、GB300走向第三代Vera Rubin。GB200 NVL72采用双机架设计,整套功耗约120kW。GB300把72颗GPU装入单个机架,功耗升至约135kW。即将导入的Vera Rubin NVL72采用全液冷计算托盘,单机架功耗超过170kW。

功率密度上升只是问题的一半。数万颗GPU同步进入计算或通信阶段时,集群负载可波动30%至40%,大型训练任务启停会在数秒内改变数十兆瓦负荷。Meta用软件逐步限制GPU功率,再由机架级电池、储能电容托盘、园区级电池储能和电网协同处理不同时间尺度的波动。

冷却也不能依赖单一路线。Prometheus在传统建筑和快速部署结构中使用模块化风液辅助冷却,AI专用楼则使用设施级液冷。封闭式直触芯片液冷提高了机架密度,也把冷板、歧管、冷却液质量、泄漏控制和现场维护纳入算力可靠性管理。

Prometheus尚未达到100万颗GPU,Meta也没有披露总投资与完整工期。但它已经呈现出AI资本开支的新传导顺序:GPU性能继续提升,故障域、网络流量、瞬时负载和热密度随之扩大,新增投入便从芯片延伸到光模块、交换机、PCB、电源、液冷、储能和运维软件。

下一阶段要验证的是Vera Rubin能否按计划接入现有网络,170kW以上机架能否稳定运行,以及Prometheus能否继续提高有效计算占比。百万GPU的竞争,要用持续产出的训练时间来衡量。

至顶网智能启示录频道 作者:启示录