英伟达CEO黄仁勋在GTC大会上发布了全新Vera Rubin芯片系列,其中包括专为AI推理设计的Nvidia Groq 3语言处理单元。该芯片基于英伟达去年以200亿美元收购的Groq公司技术,采用SRAM内存集成设计,实现极低延迟的推理计算。与传统GPU不同,Groq 3优化了数据流处理,内存带宽达150TB/s,是Rubin GPU的7倍,标志着AI从模型训练向大规模应用推理的重要转变。