本地AI的实用性正随着算力提升而不断增强。

随着AI智能体从实验阶段走向日常开发,功能日益强大的开源模型正逐渐适配更多设备,为开发者提供了更多本地运行的选择。

本月,英伟达DGX Spark将推出64GB统一内存配置版本,由宏碁、华硕、戴尔、技嘉、惠普和微星等顶级制造商合作伙伴提供。该配置搭载DGX OS操作系统和英伟达AI软件栈,开箱即可使用,为开发者、研究人员和AI爱好者带来全新选择。

这款新型号可在设备本地运行功能完备的智能体,无需依赖云端,充分保障隐私。当工作负载增加时,两台设备可通过英伟达Sync Cluster Assistant轻松组建集群,无需额外设置。

个人AI超级计算的全新起点

DGX Spark将英伟达Grace Blackwell计算架构、统一内存、英伟达ConnectX-7网络技术以及基于英伟达CUDA加速的AI软件栈整合于一体。它是一个完整的本地AI平台,可支持智能体、推理、微调、数据科学及边缘开发等多种场景。

这款小巧的个人AI超级计算机,让开发者可以直接使用自己的模型和数据进行实验,无需为每项任务都求助云端实例。

全新64GB配置版本由制造商合作伙伴独家提供,在保持亲民价格的同时,依然搭载与128GB机型相同的GB10 Grace Blackwell超级芯片、DGX OS系统及完整的英伟达AI软件栈。该配置支持运行高达1000亿参数的模型,以及基于这些模型构建的智能体应用,且全程在设备本地完成。

将两台64GB设备组成集群后,带来的提升不仅是内存翻倍。在英伟达对Qwen 3.8 27B模型的测试中,两台组成集群的系统相比单台系统,性能提升最高可达1.7倍,并且随着工作负载增加还有进一步扩展的空间。

DGX Spark从出厂起就为智能体开发做好了准备——英伟达Agent Toolkit、CUDA-X AI库、Nemotron开源模型,以及Ollama、vLLM、PyTorch配合CUDA等主流运行环境均已预装支持。开发者可以在开机后几分钟内即可开始运行模型。

Blender是最早支持该平台的主要创作应用提供商之一,其预构建的可下载安装程序即将推出。

借助英伟达Sync Cluster Assistant实现扩展

开发者可以根据当前项目所需内存起步,并在该平台基础上随着工作流程增长,无缝扩展至多节点集群以应对更大规模的工作负载。

每台DGX Spark均内置英伟达ConnectX-7网卡。此外,两台设备可通过QSFP电缆直接连接,将内存池化至128GB,并将模型支持能力扩展至最高2000亿参数,同时带来两倍的内存带宽和最高1.7倍的性能提升。

英伟达Sync应用可无缝完成多节点集群的配置工作。其集群助手功能可自动检测已连接的设备,验证设备配置,并配置ConnectX-7网络,让开发者可以专注于自己的工作,而非基础设施搭建。每个节点运行相同的英伟达软件栈,因此从单台设备扩展到双台设备时无需进行任何重新配置。

本月底,英伟达Sync Model Launcher还将上线,让本地AI的运行变得只需点击几个按钮即可完成。开发者可以在单台DGX Spark系统或集群上下载并启动Qwen3.8 27B模型,英伟达Sync会自动配置该模型在多台已连接设备上运行,并使其可通过用户笔记本电脑访问。该启动器还将配置OpenCode以调用该模型,方便开发者直接在浏览器中开始编程。

DGX Spark的开发者应用场景

全新的DGX Spark 64GB配置从第一天起就能支持实际工作需求。借助可在设备本地完整运行的高达1000亿参数模型,开发者和爱好者可以从单台设备起步,运行内存容量范围内的模型;当工作负载需要更多内存和算力时,也可通过英伟达Sync Cluster Assistant连接多台DGX Spark系统进行扩展。

以下是三个典型工作流程示例:

全天候运行AI智能体:让编程或研究类智能体持续在DGX Spark上运行,随时准备审查代码、分析文档或执行多步骤任务。集群配置可为更大模型、更长上下文窗口或多个并行运行的智能体提供额外算力支持。

为日常办公电脑赋能AI应用:在DGX Spark上运行语言或图像生成模型,同时在笔记本电脑或台式机上使用智能体或创意类应用。DGX Spark负责模型推理工作,让个人电脑可以专注于其他任务。

随需求增长灵活扩展:当某项任务超出单台设备的处理能力——比如需要运行更大模型、更长上下文窗口或同时处理多个智能体请求时,两台DGX Spark 64GB系统可通过英伟达Sync Cluster Assistant,经由200 GbE网络连接组成集群,将内存池化至128GB。原本在单台设备上运行的工作流程,无需重新配置软件环境即可直接扩展至双机运行。

开启DGX Spark使用之旅

DGX Spark 64GB版本将于10月23日(周五)起由宏碁、华硕、戴尔、技嘉、惠普和微星正式发售,起售价为4999美元。

快速上手步骤:

下载受支持的推理框架——可选择llama.cpp、Ollama、vLLM或LM Studio。

根据工作流程需求下载推荐的本地模型。

若需扩展至双机配置,通过英伟达ConnectX-7接口连接两台设备,并启动英伟达Sync Cluster Assistant,系统将自动完成网络配置并分配工作负载。

关于DGX Spark上的智能体AI实践指南,可访问build.nvidia.com网站上的NemoClaw、OpenClaw、Hermes Agent和OpenShell相关页面查看。

更多英伟达本地AI相关动态

可访问build.nvidia.com/spark获取DGX Spark相关实践指南,以下指南即将面向64GB设备推出:

使用vLLM部署大语言模型

在本地大语言模型上运行OpenClaw

连接多台DGX Spark实现分布式工作负载

搭载英伟达RTX Spark的全新Windows PC本月将由宏碁、华硕、戴尔、惠普、联想、微软和微星陆续推出。订阅RTX Spark新闻通讯可获取后续更新动态。

阿里巴巴推出的Qwen-Image-2.1将图像生成与编辑功能整合于一款轻量级开源模型中,可在英伟达RTX GPU、DGX Spark及DGX Station上本地运行,为创作者提供了更多在自有硬件上创作与优化图像的方式。

关注英伟达RTX Spark的X、Instagram、TikTok及Facebook账号,并订阅英伟达本地AI新闻通讯以获取最新资讯。同时也可在LinkedIn及X上关注英伟达工作站相关账号。

有关软件产品信息,请参阅相关说明。

Q&A

Q1:DGX Spark 64GB版本什么时候发售?价格是多少?

A:DGX Spark 64GB版本将于10月23日(周五)起由宏碁、华硕、戴尔、技嘉、惠普和微星正式发售,起售价为4999美元。

Q2:DGX Spark 64GB能支持多大参数规模的模型运行?

A:该配置支持运行高达1000亿参数的模型,以及基于这些模型构建的智能体应用,全程在设备本地完成,无需依赖云端。

Q3:两台DGX Spark设备如何组成集群以提升性能?

A:两台设备可通过QSFP电缆直接连接,并借助英伟达Sync Cluster Assistant自动完成网络配置,将内存池化至128GB,模型支持能力扩展至2000亿参数,性能最高提升1.7倍。

NVIDIA