虚拟内存技术 关键字列表
Phison和SanDisk采用不同策略突破GPU内存瓶颈

Phison和SanDisk采用不同策略突破GPU内存瓶颈

随着AI模型规模不断扩大,GPU内存容量已成为瓶颈。Phison和Sandisk分别提出了软硬件解决方案:Phison的aiDAPTIV+软件通过创建跨GPU内存、CPU内存和SSD的虚拟内存池,支持高达700亿参数的模型;而Sandisk的高带宽闪存(HBF)则采用类似HBM的硬件架构,通过TSV连接器将NAND闪存与GPU紧密集成。Phison方案适合中小企业和边缘系统,Sandisk方案则针对大型GPU服务器,两种技术可共存互补。