人工智能加速推动计算硬件向更小空间内塞入更多算力,其速度之快前所未有,数据中心运营商正竭尽全力从AI工厂部署的每个机架中榨取最大性能。
变化之剧烈令人咋舌。两年前看似极端的机架规格,如今已显得平平无奇,而下一代升级方案早已列入建设计划。数字本身就能说明问题。据Uptime Institute第16届全球数据中心年度调查,2026年"模态机架密度"(最常见的每机架功耗值)达到11千瓦,较2025年的9千瓦有所提升。这一11千瓦的数字描述的是典型企业服务器机房的水平,也就是你在大多数数据中心随处可见的那种,而非AI训练集群。
AI机架所处的功耗等级则完全是另一番天地。根据英伟达NVL72 AI工厂参考架构,英伟达GB300 NVL72——贯穿2025年至2026年初AI训练集群的核心平台——每机架功耗高达142千瓦。英伟达最新平台Vera Rubin NVL72于2026年6月进入全面量产阶段,计划于今年秋季向云服务商发货。尽管英伟达尚未公布官方机架功耗数据,但供应链行业报道将其定位在190至230千瓦之间。其后续产品英伟达Rubin Ultra NVL576"Kyber"机架已规划在2027年下半年上市,功耗约为600千瓦。
那么,究竟是什么真正限制了密度?三个问题划定了上限:机架能散多少热、芯片消耗多少电,以及设施能安全输送多少电力。
eRacks Systems创始人兼首席技术官约瑟夫·沃尔夫在接受Data Center Knowledge采访时表示:"关于限制密度的最大误解是,人们认为限制来自每个机箱的GPU数量,或者是一个换几台更大风扇就能解决的冷却问题。"
风冷已达极限,液冷全面接管
计算量越大,产热越多。多年来,散热能力一直是密度的硬上限,而随着冷却技术的进步,这一上限不断被突破。
风冷走向不可行
据Uptime Institute,每机架功耗超过约50千瓦后,风冷便变得不切实际。超过这一阈值,风扇已无法输送足够的气流来应对热负荷。
直接液冷已成主流
通过芯片冷板输送液体的直接液冷方案,目前可处理每机架100至150千瓦的热量,并已成为主导液冷方式。据施耐德电气统计,截至2026年,其市场份额占比达55%。
两相浸没式冷却复苏而非消亡
曾被誉为终极方案的两相浸没式冷却,因全氟和多氟烷基物质(PFAS)限制切断了冷却液供应而遭遇挫折,采用率尚未完全恢复。替代冷却液已于2026年初通过认证,但监管结果要到2027年才能明朗。IBM多供应商支持服务副总裁奥姆卡尔·尼姆巴尔卡尔在接受Data Center Knowledge采访时表示:"微流体技术仍是我所说的'路线图阶段',科学原理已经得到验证,但主流部署还需要几年时间。"
下一步在于芯片内部
2025年9月,微软与瑞士初创公司Corintis在实验室测试中报告,直接蚀刻在芯片内部的微通道散热效果比标准冷板高出三倍。
供电,而非冷却,才是真正的天花板
热物理学并非唯一的制约因素,供电能力同样构成硬约束,而且真正决定上限的并非芯片规格本身。
尼姆巴尔卡尔表示:"人们用芯片规格来衡量密度,但实践中密度受电气工程和故障规划的约束。"
传统54伏直流遭遇铜导线瓶颈
传统54伏直流配电在每机架约200千瓦以上会遭遇硬限制——传输所需电流的铜导线将变得过于粗重,难以施工。
冗余设计带来容量代价
尼姆巴尔卡尔指出,典型配电单元(PDU)在双冗余配置下可处理约20千瓦,而每台服务器功耗可达6千瓦。他说:"设计问题从来不是你能买多少GPU,而是在一个电源发生故障时,你能安全运行多少。"
供电线路,而非芯片,最终决定上限
芯片供应商已在设计中考虑这些限制,以不同功耗等级提供相同GPU,以适配实际场景。沃尔夫表示:"真正的限制是每个机箱的功耗和散热预算,这由GPU本身决定。英伟达同款96GB RTX PRO 6000 Blackwell既有600瓦版本,也有300瓦的Max-Q版本——后者之所以存在,是因为八块600瓦显卡装入一台4U机箱将带来5千瓦级别的热量,大多数风冷机房根本无法供电和散热。"
解决方案正从试点走向标准化
多项举措正在推进,以弥合机架需求与设施供给之间的差距。
高压直流配电正走出试点阶段
Vera Rubin NVL72已搭载800伏直流出货。这一转变已超越试点阶段:维谛技术(Vertiv)、施耐德电气、伊顿(Eaton)和台达均已规划在2026年下半年推出商用800伏直流产品,富士康台湾高雄Kaohsiung-1工厂(40兆瓦)也正为此而建。但硬件可用并不等于广泛普及。Flex嵌入式与关键电源业务总裁克里斯·巴特勒在接受Data Center Knowledge采访时表示:"我们实际上是在要求企业在18至24个月内消化掉一代人的变革积累。"
供电与计算机架正走向分离
开放计算项目(OCP)的Mount Diablo项目于2026年3月完成0.7.0规范定稿,微软和Meta于2026年7月展示了基于该规范的可运行硬件。通过将供电与计算分离,设施可以独立扩展供电能力,无需同步改变机架配置。
现场发电与表后发电正获得更多关注
越来越多的运营商选择自建电力容量,而不是等待电网扩容。园区层面的账面电力并不代表能够可靠地输送到单一机架。
Axe Compute首席执行官克里斯托弗·米格里诺在接受Data Center Knowledge采访时表示:"一旦开始以那种密度运营,供电和冷却就必须协同推进。我更关注的数字不一定是一个园区账面上有多少兆瓦,而是你实际上能可靠地输送、冷却并稳定运行多少电力。"
未来三至五年,上限可能落在何处
散热能力、供电水平、故障风险和成本,各自都面临悬而未决的问题。这四者的最终走向,将共同决定"典型配置"的面貌。
电网,而非机架,将是决定性因素
电力供应将成为关键制约。据劳伦斯伯克利国家实验室发布的《Queued Up》报告,截至2025年底,美国互联互通申请队列中等待接入的发电和储能项目已超过2060吉瓦。
米格里诺表示:"现场发电在一定程度上取决于具体项目,但对于超大规模AI园区而言,它正变得越来越重要——因为在很多市场,制约因素既不是需求,也不是GPU获取,而是你能多快从电网获取足够的电力。"
机架越密集,故障代价越高昂
随着密度提升,单一故障所造成的算力损失也远超以往,这对故障检测和优雅降级提出了更高要求。
尼姆巴尔卡尔表示:"更聪明的做法是在固件层面内置故障检测机制,能在数秒内将机架降频,这样你就可以以比保守静态数字通常允许的更高密度运行。"
到2028年,典型高密度机架功耗可能超过100千瓦
最有可能成为默认标准的是每机架100千瓦或以上。尼姆巴尔卡尔表示:"2028年典型的高密度AI机架,大概率是直接液冷标配、400伏供电,以及将故障处理逻辑内置于固件而非事后补打补丁的100千瓦以上部署。"
米格里诺对这一门槛持相同预判,并认为前沿水平将远不止于此。
然而,沃尔夫预计市场将出现分化:大多数企业将继续沿用风冷方案,而少数头部机架将远超100千瓦大关。他表示:"大多数企业实际上会部署的典型高密度AI机架,是风冷4U节点,每节点八块300瓦级GPU,每箱约4千瓦,三到四个机箱组成一个机架,接入普通的208伏电源。"
Q&A
Q1:AI机架密度目前受到哪些核心因素限制?
A:AI机架密度主要受三方面制约:散热能力、供电能力以及故障风险管理。风冷在约50千瓦以上已不可行,液冷成为主流。传统54伏直流配电在约200千瓦以上因铜导线过重而受限,高压直流(如800伏)正在推进商用。冗余设计也会占用一部分容量。总体而言,供电线路和电网接入,往往比芯片本身更早成为瓶颈。
Q2:英伟达最新AI机架的功耗大概是多少?
A:英伟达GB300 NVL72每机架功耗可达142千瓦;最新平台Vera Rubin NVL72据行业报道功耗在190至230千瓦之间;而规划于2027年下半年推出的Rubin Ultra NVL576"Kyber"机架,功耗约为600千瓦。相比之下,普通企业服务器机架在2026年的典型功耗仅为11千瓦,差距悬殊。
Q3:到2028年,典型高密度AI机架会是什么样子?
A:多位业内人士预测,2028年典型高密度AI机架将达到100千瓦以上,标配直接液冷、400伏供电,并在固件层面内置故障检测逻辑。不过也有观点认为市场将分化:大多数企业实际部署的仍是风冷4U节点,每机架约12至16千瓦;只有少数头部场景才会冲破100千瓦大关。
