Majestic Labs推出Prometheus服务器，突破AI大语言模型"内存瓶颈"

内存是现代AI大语言模型最严重的制约因素。AI硬件初创公司Majestic Labs开发的Prometheus服务器配备高达128TB内存，是英伟达DGX B300服务器的60多倍。该服务器采用统一DRAM架构，使用专有...

闪迪推动高带宽闪存技术发展应对AI内存瓶颈

闪迪发布了与韩国科学技术院金正浩教授的访谈，探讨高带宽闪存技术发展。该技术旨在解决AI工作负载中GPU HBM内存容量不足的问题，当上下文内存溢出时可避免耗时的向量重计算。金教授提出可将100GB HBM作为1TB HB...