LIVE INDEX / 麦肯锡
企业IT基础设施尚未为AI推理做好准备

企业IT基础设施尚未为AI推理做好准备

随着AI推理成为主导工作负载,现有以GPU集群为核心的训练架构已难以支撑。推理需要地理分布式计算、低延迟网络与协同存储,而非集中式高密度算力。Gartner数据显示,仅28%的AI用例实现ROI目标,基础设施错配是首要失...