2026-08-20
Nvidia进军模型路由热门市场,推出NeMo Switchyard
模型路由技术通过分析提示词并将其导向最合适的模型,有效降低AI推理成本。Nvidia近日发布NeMo Switchyard,提供多种路由方法库,支持开发者构建高效可控的多模型智能体系统。与此同时,Cloudflare也推...
模型路由技术通过分析提示词并将其导向最合适的模型,有效降低AI推理成本。Nvidia近日发布NeMo Switchyard,提供多种路由方法库,支持开发者构建高效可控的多模型智能体系统。与此同时,Cloudflare也推...
英伟达发布Nemotron 3.5 Lightning,这是一款300亿参数的混合专家模型,推理速度最高提升4倍,支持针对特定业务场景进行后训练优化。合作伙伴CrowdStrike、CodeRabbit等测试显示,经微调...
NVIDIA发布Nemotron 3.5 Lightning,这是一款300亿参数的混合专家模型,专为长时运行的智能体AI工作负载设计,输出速度提升4倍,任务完成速度提升30%。同步推出的开源库NeMo Switchya...
NVIDIA NeMo Switchyard 是一个开源模型路由框架,可在多个AI模型间智能分配Agent任务。它通过分析请求特征、模型能力和系统状态,将每个任务路由至最合适的模型,在保证质量的同时降低成本和延迟。框架提...
NVIDIA发布开源混合专家模型Nemotron 3.5 Lightning,拥有300亿总参数、30亿活跃参数,专为自主智能体的高频执行层设计。该模型支持推测解码、多令牌预测及NVFP4量化,在同类模型中实现最高4倍输...
Nvidia推出两项新服务:Nemotron 3.5 Lightning是一款300亿参数的混合专家模型,输出速度比同级模型快4倍,智能体任务完成速度提升30%,支持企业在自有硬件上低成本快速定制。NeMo Switch...