AI推断工作负载正将基础设施拉回城市数据中心

随着AI工作负载从训练转向推理，基础设施布局正悄然改变。推理任务对网络延迟、互联密度和成本更为敏感，促使部分企业将基础设施迁回靠近用户的城市数据中心。以文档处理平台Mathpix为例，该公司将Nvidia B300 GP...