/
内存架构创新 关键字列表
西部数据推动高带宽闪存技术发展应对AI内存瓶颈
闪迪发布了与韩国科学技术院金正浩教授的访谈，探讨高带宽闪存技术发展。该技术旨在解决AI工作负载中GPU HBM内存容量不足的问题，当上下文内存溢出时可避免耗时的向量重计算。金教授提出可将100GB HBM作为1TB HBF层的缓存，但这需要GPU制造商接受新架构并修改软件指令集。目前英伟达已开发ICMSP技术作为替代方案，使用DPU连接的NVMe SSD处理溢出数据。HBF技术的成功需要行业标准和英伟达等厂商的支持。
白皮书
京公网安备 11010802021500号
