内存短缺、DRAM价格上涨以及交货周期延长,正推动超大规模数据中心运营商寻找过去看似不切实际的替代方案。Meta近日开发出一种将退役服务器DDR4内存重新投入使用的方法,而非将其丢弃。
这一方案让企业无需购买新DRAM即可扩展服务器内存容量,研究人员将采购新内存产生的额外成本称为"RAM税"。实现这一扩展的关键在于计算快速互联技术(CXL),它能够将旧DDR4模块与新一代DDR5内存池连接在同一台机器上协同工作。
Meta将这一方案描述为"近乎零成本的内存扩展",同时还能显著减少电子废弃物和基础设施产生的碳排放。
目前内存供应持续紧张,影响着全球云计算环境中的服务器部署进度,Meta的这一策略正是在此背景下应运而生。
据Meta研究人员介绍,现有CXL方案曾面临明显瓶颈:扩展内存的带宽比本地内存低近10倍,延迟也比直连内存高出约60%。此外,市售CXL产品将控制器与DRAM模块捆绑在一起,导致大规模回收利用现有DDR4库存在实践中难以落地。
为此,Meta自主研发了一款名为Vistara的专用ASIC芯片,专门针对低延迟、高能效及回收内存的使用场景进行优化。与之配套的软件栈则能够自动判断各类工作负载所需的内存比例,并在延迟超出可接受范围时,自动关闭对应工作负载的扩展内存功能。
Meta表示:"我们通过硬件与软件协同设计来应对这些挑战。在硬件层面,我们设计了内部CXL ASIC芯片Vistara,针对DRAM重用、能效和低延迟进行了专项优化。在软件层面,我们基于TPP(透明页面放置)构建了优化方案,为每个工作负载确定合适的本地内存与扩展内存比例,并实现了按工作负载自动配置,包括对无法承受延迟增加的工作负载禁用扩展内存。"
Meta表示,这一架构已展现出足够的实用价值,具备在生产环境中大规模部署的条件。
在具体效果方面,分布式机器学习推理工作负载的服务器数量最高减少了25%;分布式缓存系统的平均延迟下降约29%,即便底层部分依赖速度较慢的回收内存,这一成绩依然亮眼。
上述数据表明,当应用程序面临的瓶颈在于内存容量不足而非响应速度时,扩展容量所带来的收益有时会超过原始内存速度的重要性。
值得一提的是,吸引Meta关注CXL互联技术的同时,半导体公司也在将其用于构建大型加速器互联网络。相关生态还涵盖了由AMD、AWS、谷歌、微软和Meta共同支持的超级加速器链路(UAL)项目,旨在实现不同硬件厂商加速器之间的互联,以替代英伟达NVLink等专有互联技术。
回收DDR4内存结合CXL的方案能否成为行业标准,最终将取决于其性能权衡在超大规模数据中心以外的环境中是否同样可接受。
Q&A
Q1:Meta的Vistara芯片是什么?主要解决什么问题?
A:Vistara是Meta自主研发的一款专用ASIC芯片,专为CXL内存扩展场景设计。它主要解决现有CXL方案带宽不足、延迟过高以及无法大规模复用旧DDR4内存的问题。Vistara针对低延迟、高能效和回收内存使用进行了专项优化,并配合软件栈自动管理不同工作负载的内存配置,使退役DDR4内存能够在生产环境中被有效再利用。
Q2:Meta使用CXL技术回收DDR4内存后,实际效果如何?
A:效果较为显著。在机器学习推理工作负载方面,所需服务器数量最高减少了25%;在分布式缓存系统方面,平均延迟降低了约29%。这说明在内存容量是主要瓶颈的场景下,通过回收旧内存扩展容量带来的收益,有时比单纯追求内存速度更为实际有效。
Q3:CXL技术回收DDR4内存的方案能推广到普通企业吗?
A:目前该方案主要在Meta这类拥有海量退役服务器和自研芯片能力的超大规模数据中心中验证落地。对于普通企业而言,能否复制这一方案,取决于其是否拥有足够规模的旧内存库存、相应的技术能力,以及业务场景对延迟的容忍程度。随着CXL生态的成熟,未来或许会出现更易于普通企业使用的商业化产品。
