人工智能智能体正在改变软件开发方式。开发者已经从逐行手写代码,转变为指挥智能体完成大部分代码编写工作。因此,当前的开发流程被拆分到笔记本电脑、云端模型 API 和云虚拟机之间。

NVIDIA RTX Spark 专为 AI 开发而打造。借助 NVIDIA GB10 系统级芯片和大容量统一内存,开发者可以在单台 PC 上运行本地编程智能体、访问 AI 框架,并完成编码、测试与部署的全流程。

单机完成编码、测试与部署

RTX Spark 笔记本电脑和小型台式机使开发者能够在单台机器上完成整个工作流程。

开发者可以选择在 Windows 系统中工作,包括与微软合作开发的全新 Windows Developer Config,该配置会安装主流开发框架、屏蔽通知、增强终端功能,并可将任务栏移至侧边。也可以选择在适用于 Linux 的 Windows 子系统中工作,在那里获得与部署到云端时相同的环境和依赖项。

这使得开发者能够在目标操作系统中完成全部工作,无需进行代码迁移。由于 RTX Spark 配备了 NVIDIA GPU,开发者可以在全球最大的本地 AI 装机基础上进行测试和部署:1.5 亿台 RTX PC,以及几乎所有运行在 NVIDIA GPU 上的云平台。

凭借高达 128GB 的统一内存和 1 petaflop 的 FP4 AI 算力,开发者可以在本地运行编程模型,包括 Qwen 3.8 Flash Next,从而减少云端编程智能体的 Token 消耗。

AI 开发所需的性能

软件开发已经从以 CPU 为瓶颈的工作负载——性能主要由 CPU 决定——转变为以 GPU 为瓶颈的工作负载。如今的 AI 开发者需要运行推理来驱动编程智能体并测试应用程序,进行模型微调与训练,当然也还需要一些编译工作。

得益于 RTX Spark 中的 NVIDIA Grace CPU 和 Blackwell GPU,这些笔记本电脑和台式机配备了推理、微调和编译所需的全部算力。与英特尔 Panther Lake 12Xe 相比,RTX Spark 在编程智能体上的性能提升达 4.6 倍,微调性能提升 2.7 倍,代码编译性能提升 1.8 倍。

熟悉的软件栈,针对 Windows 扩展

NVIDIA 与微软合作,推动 Windows on Arm 开发者生态的发展。随着 RTX Spark 的发布,社区正在推出多款新工具,包括首个 PyTorch-CUDA 构建版本、默认原生支持的首个 Python 3.15 版本、超过 2000 个即用型 Conda 软件包,以及排名前 15000 个 Python 软件包中超过 97% 的 Arm 兼容版本。

在 NVIDIA 硬件上进行开发的一个关键优势,是可以访问从编程智能体、AI 模型到框架的最大开发者工具生态系统。

由于 NVIDIA GPU 是 AI 开发最广泛使用的平台,新工具和框架通常从发布首日就支持 NVIDIA,而对其他硬件的支持往往要晚几周才跟进。开发者还可以访问 NVIDIA CUDA-X 库,包括用于大语言模型加速的 FlashInfer 等工具,以及用于 AI 模型开发的 NVIDIA NeMo 库工具。

NVIDIA 还提供了一个 NVIDIA Skills 资源库,教导智能体如何使用 CUDA-X 库,使开发者无需深入了解 CUDA 即可构建 GPU 加速应用程序。

本地编程智能体登陆 RTX Spark

RTX Spark 设备非常适合运行本地编程智能体。NVIDIA 与包括 GitHub Copilot、Pi、Hermes 和 OpenClaw 等顶级智能体展开密切合作,对其进行改进并提升易用性。

相关改进包括:

通过优化方案实现本地模型的无缝部署

借助 NVIDIA OpenShell 和/或 Microsoft Execution Containers 增强安全性,提供操作系统级的沙盒隔离

本地与云端模型之间的混合提示路由,提示词会先发送给本地模型,如果效果足够好就在本地处理,否则再升级至云端,从而降低 Token 消耗

微软 GitHub Copilot 现已通过 Windows ML 实现无缝本地 AI 支持,目前以 llama.cpp 作为后端。提示路由器 HydraFusion 已升级,现也支持本地模型。全新的 MAI 1.1 Coding Flash 模型可在 RTX Spark 上本地运行。

Pi 是一款开源编程智能体,拥有轻量级终端界面,支持本地和云端模型,目前也已针对 RTX Spark 进行优化。其扩展、技能和提示模板使开发者能够控制智能体如何融入自身工作流程,从模型选择到可使用的工具。

JetBrains 已推出对 RTX Spark 上 Junie Local 的原生支持。该编程智能体可以读取代码、编辑文件并运行测试,模型和代码均保留在本机上。Junie Local 会根据 GPU 可用内存调整其上下文窗口大小,因此 RTX Spark 的统一内存使其能够在上下文中保留更多代码、工具输出和对话历史。

新款 Nemotron 模型为本地智能体提供更多选择

Nemotron 3.5 Bolt 74B-A9B 24GB 是一款专为在 RTX Spark 上运行本地智能体而打造的全新大语言模型。

该模型拥有 740 亿参数、90 亿激活参数的混合专家(MoE)架构,通过 2 位量化和先进的量化感知训练技术压缩至 24GB,同时保持模型质量。其目标是在速度与智能之间实现最佳平衡,比大多数流行的稠密模型更快,同时在相似内存占用下比大多数流行的 MoE 模型更智能。

用户在发布时即可通过 llama.cpp、vLLM、Ollama、Unsloth 和 LM Studio 运行 Nemotron 3.5 Bolt 74B。该模型也可直接通过 Hermes 和 OpenClaw 等智能体访问。

与其他 Nemotron 模型一样,Bolt 74B 完全开源,包括训练数据、权重和训练方案,开发者可据此微调和定制自己的智能体。

决策模型现已获主流框架支持

决策模型是 AI 开发领域的最新突破。它们为 AI 智能体提供了近乎即时的决策方式,无需冗长的推理循环。它们能够选择下一步行动,从分类请求到选择下一个操作,速度比传统智能体快达 200 倍。决策模型目前已在 RTX Spark 和 GeForce RTX GPU 上的 llama.cpp 和 Unsloth 中获得支持。

媒体 AI SDK

NVIDIA AI for Media SDK 现已支持 RTX Spark,包括支持视频超分辨率、帧生成和 TrueHDR 的 Python wheel 包。该 wheel 包已在 PyPI 上发布,C++ SDK 也已在 NGC 上提供,支持 RTX Spark 和 Windows on Arm。

将 Windows 应用迁移至 RTX Spark

要将现有应用迁移到 RTX Spark,首先需评估其在 Windows on Arm 上的依赖项。可以选择原生 Arm64 构建,或使用 Arm64EC 逐步迁移组件。随后测试安装过程、功能、性能,以及应用所使用的 NVIDIA 和 CUDA 相关路径。

NVIDIA 的应用迁移资源文档详细说明了迁移选项和工具,包括如何在现有 Windows on Arm 开发系统上开始准备工作。

寻找你的 RTX Spark,开始构建

RTX Spark 笔记本电脑现已发售,适合 7×24 小时持续运行智能体的小型台式机将于 11 月上市。

浏览 RTX Spark 系列产品,找到适合你的型号并查看购买方式。

拿到设备后,可参考 AI 开发指南配置 Windows 系统、设置智能体并连接 NVIDIA Skills,还可以了解如何开始为 NVIDIA GPU 开发本地 AI 应用。

Q&A

Q1:NVIDIA RTX Spark 是什么?

A:RTX Spark 是 NVIDIA 专为 AI 开发打造的设备,搭载 GB10 系统级芯片和大容量统一内存,支持开发者在单台笔记本电脑或台式机上完成编码、测试和部署全流程,无需在本地与云端之间来回切换。

Q2:RTX Spark 支持哪些本地编程智能体?

A:RTX Spark 与多款顶级编程智能体展开合作优化,包括 GitHub Copilot、Pi、Hermes 和 OpenClaw,并支持本地与云端模型的混合调用,以降低 Token 消耗并提升安全性。

Q3:Nemotron 3.5 Bolt 74B 模型有什么特点?

A:该模型是专为 RTX Spark 本地智能体打造的大语言模型,拥有 740 亿参数、90 亿激活参数的混合专家架构,通过 2 位量化压缩至 24GB,兼顾速度与智能,且完全开源,支持开发者自行微调。

NVIDIA