AI数据中心的算力革命:超越GPU的异构计算时代
AI数据中心正从以GPU为核心的单一架构,演进为面向不同任务优化的异构计算集群。推理流程被拆分为预填充、解码和智能体执行三个阶段,分别由不同硬件承担。CPU在智能体编排和工具调用中扮演更重要角色,加速器则聚焦矩阵运算。互...
AI数据中心正从以GPU为核心的单一架构,演进为面向不同任务优化的异构计算集群。推理流程被拆分为预填充、解码和智能体执行三个阶段,分别由不同硬件承担。CPU在智能体编排和工具调用中扮演更重要角色,加速器则聚焦矩阵运算。互...
前英特尔CEO葛辛格在Ai4 2026大会上直言"今天的GPU很糟糕",批评其能效低下、算力受限。他与OpenAI计算负责人卡提共同指出,AI下一阶段的突破取决于芯片、内存、网络、能源和经济性的全面改善。卡提表示,数据中...
纽约州已成为美国首个实施全州数据中心建设禁令的州,全美另有127个司法管辖区存在类似限制。2026年第一季度,至少75个总价值约1300亿美元的数据中心项目被阻断或延期,创历史单季新高。能源紧张是核心矛盾:数据中心用电量...
Nvidia宣布开源cuFile API,支持毫秒级数据访问,大幅提升GPU存储读写性能。cuFile通过直接内存访问(DMA)技术,绕过CPU和系统内存,实现NVMe驱动器与GPU内存之间的高速直连,有效消除"GPU饥...
可持续数据中心不仅仅是降低电费,而是通过提高能源和水资源利用效率、延长设备寿命、减少废弃物、优化冷却和供电方式来降低环境影响。数据中心虽占全球建筑极小比例,却消耗大量电力,随着AI和云服务扩张,需求持续上升。关键措施包括...
德克萨斯州长格雷格·阿博特宣布,所有新数据中心项目须经公用事业委员会(PUCT)和电网运营商ERCOT审计。目前ERCOT互联申请队列已达474吉瓦,其中约90%来自数据中心,是电网峰值需求的五倍以上。尽管德州凭借宽松监...
Uptime Institute全球数据中心调查显示,第三方数据中心承载的企业IT工作负载占比已达46%,首次超过企业自建机房的44%。受AI基础设施推动,平均机架功率密度首次突破11kW,24%的受访者运营着至少部分3...
SpaceX最新季度财报显示,其AI部门营收同比增长逾三倍至26亿美元,主要来源于为Anthropic、谷歌等AI公司提供算力的新云服务协议。尽管如此,AI部门本季度仍亏损15亿美元,公司整体净亏损收窄至1.43亿美元。...
德克萨斯州长阿博特致函公用事业委员会与ERCOT,要求对474GW大型负荷并网申请队列展开全面审计,其中约90%为数据中心项目。阿博特警告,未披露所有权、财务、用水及社区影响信息的项目将被拒绝接入电网。这一指令背景下,E...
EVgo宣布与Brixmor房产集团合作,在全美购物中心新增超过500个直流快速充电桩。Brixmor旗下拥有分布于29个州的346个开放式社区购物中心,主要租户包括Kroger、Publix、TJ Maxx等知名品牌。...
据特斯拉财报显示,SpaceX今年已累计采购3.29亿美元的Megapack大型储能电池,仅第二季度就花费2.95亿美元。这批工业级电池很可能部署于xAI数据中心。在xAI并入SpaceX之前,xAI已为数据中心采购了4...
SpaceX公布上市后首份季报,二季度营收78.1亿美元,同比增长92%,每股亏损9美分,均优于分析师预期。然而,当季资本支出高达183.7亿美元,远超分析师预估的约130亿美元,其中AI业务占158.3亿美元,致使盘后...
Anthropic近日与AI云计算初创公司Volta达成一项价值100亿美元的合作协议。据彭博社报道,Volta成立于今年,将在未来六年内为Claude的开发商提供云计算资源。加密矿业公司Bitdeer作为合作伙伴,将协...
德克萨斯州州长阿博特宣布暂停所有数据中心的新增电网接入申请,并要求对ERCOT互联流程中的数据中心项目进行全面审计。目前ERCOT互联队列中逾1800个项目申请接入容量超474吉瓦,约为德州峰值用电量的5倍,其中90%来...
初创公司Endeavor Optical Networks(EON)完成1075万美元种子轮融资,由General Catalyst和a16z领投。该公司计划部署约20颗配备激光通信设备的卫星,从轨道上连接全球数据中心,...
AI推理基础设施公司Runware发布名为Sonic Inference Pod的模块化数据中心产品。该Pod采用单一可移动单元设计,支持快速部署,无需水冷,采用闭环冷却系统,建设周期仅需数天。相比传统数据中心,其成本更...
MIPI联盟I/O桥接工作组近日在柏林成员大会上展示了即将发布的《I3C桥接I/O规范》草案。演示采用Microchip、Binho及NXP半导体的组件,验证了I3C控制器通过I/O桥与I?C、SPI、UART等传统接口...
据SemiAnalysis最新研究报告,AI基础设施支出预计到2028年将突破每年2万亿美元,2024至2029年累计投资约11.1万亿美元。面对传统银行和风险资本难以覆盖的融资缺口,英伟达凭借约805亿美元现金储备,开...
本文介绍如何使用KAI Scheduler和vCluster两款开源工具,在单一物理GPU上为多个团队提供隔离的Kubernetes控制平面。方案通过单一控制平面集群管理GPU资源池,结合按团队配额的GPU共享机制,为每...
全美各地数十亿美元的数据中心投资正遭遇意想不到的阻力:本地社区的抵制。行业惯常做法是将反对声音归咎于信息误导或"邻避效应",但这一判断有误。今年第一季度,本地反对已导致逾1300亿美元数据中心投资被延迟或搁置,创单季历史...