2026-09-11
NIM全栈优化助力Nemotron 3 Ultra承载2.5倍用户量
NVIDIA通过NIM 2.0.12全栈优化,在4xB200硬件上为Nemotron 3 Ultra智能体工作负载实现最高2.5倍并发用户吞吐量提升,优化涵盖内核、并行、前缀缓存与推测解码等技术。
NVIDIA通过NIM 2.0.12全栈优化,在4xB200硬件上为Nemotron 3 Ultra智能体工作负载实现最高2.5倍并发用户吞吐量提升,优化涵盖内核、并行、前缀缓存与推测解码等技术。