2026-09-11
NIM全栈优化助力Nemotron 3 Ultra承载2.5倍用户量
NVIDIA通过NIM 2.0.12全栈优化,在4xB200硬件上为Nemotron 3 Ultra智能体工作负载实现最高2.5倍并发用户吞吐量提升,优化涵盖内核、并行、前缀缓存与推测解码等技术。
NVIDIA通过NIM 2.0.12全栈优化,在4xB200硬件上为Nemotron 3 Ultra智能体工作负载实现最高2.5倍并发用户吞吐量提升,优化涵盖内核、并行、前缀缓存与推测解码等技术。
NVIDIA宣布扩展NVIDIA Agent工具包,新增重构后的PhysicsNeMo库及更新的CUDA-X库,为开发者构建自主AI工程师提供AI物理技能、加速求解器和量子化学能力。NVIDIA Nemotron 3 U...
NVIDIA Nemotron 3 Ultra是一款550B参数、55B激活参数的混合MoE模型,结合ACE-RTL智能体框架,在芯片寄存器传输级(RTL)编码任务中表现卓越。在CVDP基准测试中,Nemotron 3 ...