在柏林GTC大会上,NVIDIA展示了其完整的本地AI硬件产品线。上周发布的RTX Spark为Windows PC上的个人智能体提供算力支持;DGX Spark支持开发者在Linux系统上构建和扩展应用;DGX Station则为企业团队提供运行前沿工作负载的Linux平台,其Windows版本将于12月推出。
本次公布的内容包括:
Underdog桌面智能体应用现已支持RTX Spark
DGX Spark 64GB版本将于10月23日(周五)发售
NVIDIA Sync本月将支持八台DGX Spark组网,并新增模型启动器功能
10月DGX Spark软件更新新增Wi-Fi助手功能,并更新了DGX Spark技能库
DGX Station新增七项集成功能,提升管理便捷性
DGX Station Windows版将于12月推出,支持多款制造业应用及智能体框架
针对DGX Station的三个全新开源机器人参考工作流
NVIDIA云函数服务即将面向DGX Station开放早期体验
全新本地编程模型Recursive Flint现已支持NVIDIA本地硬件
新一代Nemotron、GLM、DeepSeek、Qwen、MiniMax及FLUX.3系列AI模型实现首发日支持
llama.cpp与vLLM推理引擎获得新的加速优化,并推出一系列专为本地AI硬件优化的模型检查点
以下是关于这些本地AI公告的详细介绍,并可查看柏林GTC大会上的演示与分会场内容。
RTX Spark为Windows PC带来个人智能体
RTX Spark为PC带来了全新的使用体验——能够运行个人智能体、加速内容创作,并支持1440p分辨率、100帧每秒的游戏体验,最高配备128GB统一内存和1 petaflop的AI算力。
以下是早期评测媒体对该平台的评价(自10月16日发布以来):
“专业创作者的梦想设备……” —— CGMag
“为AI的未来而设计……” —— The Verge
“性能强大、便携高效,令人惊叹……” —— PCMag
全新桌面智能体应用Underdog也已登陆RTX Spark平台,专为完全本地化、隐私安全的AI体验而打造。该应用依托其专用的Husky模型推理引擎,可将模型完全在设备本地运行,确保个人智能体完成工作任务的同时,用户数据绝不离开PC。Underdog现已开放下载。
为更好地支持开发者和爱好者构建与定制本地智能体,许多RTX Spark笔记本电脑配备了可解锁的引导加载程序。
在GTC主题演讲中,NVIDIA创始人兼CEO黄仁勋展示了如何利用运行在RTX Spark上的AI智能体,结合NVIDIA Isaac Lab、Hermes Agent和Nemotron 3.5 Bolt 74B,对Hugging Face的Microduck机器人进行训练。
华硕、戴尔科技、惠普、联想、微软和微星的笔记本电脑现已上市,宏碁的产品即将推出。
详细了解RTX Spark,并开始使用最新的RTX Spark操作指南。
DGX Spark为开发者提供充足的构建空间
全新的DGX Spark 64GB系统(可运行Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B及Gemma 4 26B-A4B等模型)将于10月23日(周五)起陆续通过合作伙伴渠道发售。
当工作负载需要更大算力时,开发者可通过内置的NVIDIA ConnectX-7网络与NVIDIA Sync集群助手连接多台DGX Spark系统,从而运行Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731和GLM 5.3 Flash等先进编程模型。
目前,DGX Spark已支持手动配置最多八台设备的集群,可支持更大规模模型、更长上下文、并发智能体及分布式开发。这一方案特别适合多人共用一个集群作为后端的小团队,每位开发者可同时针对同一模型运行并发会话,整体可提供1TB统一内存,足以运行GLM 5.3等前沿级模型。
详见DGX Spark集群操作指南。
NVIDIA Sync模型启动器也将于本月晚些时候上线,简化在单台DGX Spark或集群上访问本地AI的流程。只需点击几次,模型启动器即可下载适配当前配置的模型与容器,并将模型与OpenCode连接。它还会自动加载DGX Spark技能库,提供故障排查、设备维护、官方文档访问等工作流指导。
10月DGX Spark软件更新带来全新的Wi-Fi助手功能,使用户在设备运行于一体机模式时也能切换网络。此外,DGX Spark技能库还通过OpenCode直接在NVIDIA Sync中提供面向工作流的故障排查与设备维护指导。
DGX Spark系统现已可通过宏碁、华硕、戴尔科技、技嘉、惠普、联想、微星及NVIDIA直接购买。
DGX Station将前沿智能带到桌面
对于更大规模的团队,DGX Station提供748GB一致性内存与最高20 petaflops的AI性能,使开发者能够运行GLM 5.3等先进模型,并以接近云端模型的速度为30余名用户提供服务。为进一步扩展规模,NVIDIA Sync现已支持DGX Station,简化两台基于Linux系统之间的连接。
与Absolute Security、思科Splunk、Fleet设备管理、微软Intune、Perforce Puppet、Progress Software Chef及Tanium的全新集成,使IT团队能够通过企业级的部署、管理与合规流程来管理DGX Station系统,有助于加快审批流程、降低部署风险,并缩短首个Token的生成时间。
借助即将推出的基于Windows的系统,开发者可以构建充分利用专业应用程序的工作流,在NVIDIA RTX PRO GPU上运行,并通过在NVIDIA GB300系统上运行大语言模型(LLM)的智能体进行操作——所有这些均可在同一台设备上实现。
DGX Station Windows版预计将于12月由系统制造商合作伙伴推出,将本地AI能力延伸至企业现有的应用程序与操作环境中。工程师可以在Windows原生软件中运行本地模型与智能体,并在同一系统上访问AI模型、工具与智能体。
DGX Station Windows版将支持来自nTop、达索系统、是德科技、MathWorks、罗克韦尔自动化、西门子、新思科技、Unity及Altera的制造业应用程序,用于AI辅助设计、仿真、验证及工程自动化。用户还将能够在本地环境中运行Hermes Agent、Perplexity或Aible智能体,实现企业环境下的智能体自主控制。
同样的本地化、可控计算模式也延伸到了机器人领域。DGX Station为机器人团队提供专属算力,用于后期训练、仿真与评估,缩短迭代周期,无需等待共享基础设施。
NVIDIA发布了三个全新开源参考工作流,将GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena及Cosmos引入NVIDIA DGX Station。开发者可借助这些工作流通过强化学习优化GR00T 1.7模型,训练灵巧操作技能,并对Cosmos世界模型进行后期训练以生成合成数据。
NVIDIA云函数服务也即将面向基于Linux的DGX Station提供早期体验。团队可将本地模型端点注册至共享目录,并通过一个兼容OpenAI的统一入口进行访问。
开发者可在不更改应用代码的情况下升级端点背后的模型,团队成员也可在无需直接访问设备的情况下使用共享模型。这使DGX Station成为团队的本地可控推理服务平台。
DGX Station将本地迭代能力带入AI工厂开发流程。在柏林GTC展会现场,NVIDIA展示了运行于DGX Station上的DSX OS,用于在完整基础设施尚未部署前模拟AI工厂运行。另一场演示则展示了DGX Station系统为30余名软件开发者提供本地Token工厂服务的场景。
DGX Station系统现已可通过华硕、戴尔科技、技嘉、惠普、微星、超微及Exxact购买。DGX Station Windows版系统预计将于今年晚些时候由华硕、戴尔科技、技嘉、惠普、微星及超微开始发货。
推出Recursive Flint——专为RTX Spark优化的全新本地编程模型
前沿AI实验室Recursive Superintelligence今日发布了Recursive Flint,这是一款专为快速、精准编程而构建的本地大语言模型。作为一个拥有400亿参数的混合专家模型,激活参数量为25亿,Recursive Flint具备出色的推理速度——在64GB RTX Spark上每秒可处理超过220个Token,同时在SWE-Bench Pro v2、Terminal-Bench 2.1及SWE-bench verified等智能体编程基准测试中取得业界领先的成绩。
Recursive Flint借助Recursive的Eureka Machine系统构建而成,这是一套用于大规模自动化AI研究的系统。它能自动化完成整个研究循环:提出想法、实现想法、运行实验验证想法,并根据结果决定下一步尝试方向——由此生成的专用内核使Flint在RTX Spark上的生成速度提升了55%,且无需改变模型权重。
开发者可在Hugging Face上以Apache 2.0许可证下载该模型的开放权重,并在RTX Spark、DGX Spark系统以及GeForce RTX和RTX PRO GPU上运行该模型。开发者还可借助NeMo Automodel对模型进行监督微调和低秩适应(LoRA)后期训练,亦可使用NeMo RL进行组相对策略优化训练。
获得首发日支持的新模型
NVIDIA还为NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI的LFM2.5-24B-A2B,以及FLUX.3 Klein扩散模型提供了首发日支持。
Nemotron Bolt E4B 4GB将自然对话与多轮智能体技能压缩进低至4GB的内存空间中,可在NVIDIA GeForce RTX GPU、NVIDIA Jetson设备以及RTX和DGX Spark上驱动快速的本地语音助手、交互式游戏角色及嵌入式界面。Bolt E4B 4GB将于10月23日(周五)发布。
Black Forest Labs旗下的FLUX 3 Image Klein是一款拥有56亿参数的开放权重图像模型,支持图像生成与编辑。经NVIDIA优化的版本可在仅配备8GB显存的GeForce RTX GPU上运行,并能在RTX 5090 GPU上约四秒内生成一张百万像素图像。
MiniMax M3.1 Flash是一款专为NVIDIA DGX Station和DGX Spark打造的全新开放模型,将长上下文AI能力带到桌面端。Liquid AI的LFM2.5-24B-A2B是一款开放权重的推理模型,每个Token仅激活其240亿参数中的20亿,速度足以支持在PC上直接运行私密、支持工具调用的AI智能体。
此外,NVIDIA还发布了一系列专为本地AI硬件内存效率优化的全新模型检查点集合,使前沿级开放模型能够在运行时为KV缓存保留足够内存空间。每个检查点均经过量化处理,同时保持接近全精度的准确度,首批包括可在单台DGX Spark 128GB或RTX PRO 6000上运行的Qwen3.8-Flash-Next-FP4-Local,以及需两台设备运行的GLM-5.3-Flash-FP4-Local。
开发者可在首发日即通过NeMo AutoModel在DGX Spark和RTX Spark上进行后期训练,并配有Nemotron Bolt E4B、Flux 3 Image Klein等示例方案。
加速AI推理
NVIDIA持续与llama.cpp和vLLM开源社区合作,加速本地硬件上的智能体工作负载。
在llama.cpp中,针对Qwen 3.8 Flash Next新增的MTP推测解码支持,使端到端智能体任务在NVIDIA RTX PRO 6000 Blackwell上的速度提升最高达1.4倍。
在vLLM中,更快的推测解码以及为Qwen线性注意力层新增的FlashInfer预填充内核,使Qwen3.8 27B的智能体任务在DGX Spark上的速度提升最高达1.3倍。在DGX Station上,GLM 5.3 Flash的吞吐量提升最高达1.2倍。
查看NVIDIA本地AI推理方案,体验这些最新的优化成果。
