NVIDIA 宣布推出 DGX Spark 的全新 64GB 配置——来自 Acer、ASUS、Dell、Gigabyte、HP 和 MSI——这是其搭载 GB10 的桌面 AI 系统。它为开发者提供了一条路径:先用一台系统运行本地模型和智能体,随后在负载增长时将两台 64GB 单元组成集群,从而在整个集群中获得 128GB 内存和更强的算力。
其直接传达的信息是:在自己的桌面上运行开源模型和常驻智能体,然后随着工作增长将 DGX Spark 系统组成集群——而不是依赖按量计费的 API。
这一时机并非偶然。智能体会通过工具调用、重试、长上下文和多步规划持续消耗 token。自 2026 年初以来,token 消耗量已增长 14 倍。在云 API 上,每一个 token 都要计费。而在自有硬件上,则没有按 token 计费的费用。
64GB 型号保留了与原版相同的 GB10 Grace Blackwell 超级芯片、NVIDIA CUDA 加速 AI 软件栈以及 ConnectX-7 网络——只是将 128GB 更新为 64GB 统一 LPDDR5x。NVIDIA 将其定位为足以运行当今最强大的 30–35B 级开源模型。NVIDIA 继续提供 128GB DGX Spark 用于更大的单机工作负载,而将 64GB 单元组成集群则可叠加内存和算力。
盒子里有什么
GB10 将 Blackwell GPU 与第五代 Tensor Core 以及 20 核 Grace Arm CPU 配对。该 GPU 在稀疏化下可提供高达 1 petaFLOP 的 FP4 AI 算力。
规格DGX Spark 64GB超级芯片NVIDIA GB10 Grace BlackwellCPU20 核 Arm(10× Cortex-X925 + 10× Cortex-A725)AI 算力高达 1 petaFLOP FP4(稀疏化)内存64GB LPDDR5x,一致性统一内存内存带宽273 GB/s存储1、2 或 4TB NVMe M.2,自加密网络ConnectX-7 NIC,200GbE;Wi-Fi 7,BT 5.3显示1× HDMI 2.1a操作系统NVIDIA DGX OS(基于 Ubuntu)尺寸 / 重量150 × 150 × 50.5 mm / 1.2 kg最大本地模型规模最高 100B 参数上市时间2026 年 10 月 23 日——NVIDIA Marketplace、OEM 合作伙伴、零售
来源:NVIDIA 规格。
统一内存是关键的设计选择:CPU 和 GPU 通过 NVLink-C2C 共享一个内存池,带宽是 PCIe Gen 5 的 5 倍。无需在系统 RAM 和 VRAM 之间复制权重。对于智能体而言,这意味着多个模型、它们的 KV 缓存以及工具进程都存在于同一个地址空间中。
软件在首次启动时即已就绪:DGX OS 预装了 NVIDIA AI 技术栈,包括 PyTorch、Jupyter 和 Ollama。NVIDIA NemoClaw 只需一条命令即可安装。它为 OpenClaw 智能体添加了隐私和安全控制。NVIDIA OpenShellTM 作为 NVIDIA Agent ToolkitTM 的一部分,在此基础上增加了基于策略的护栏。NVIDIA NemotronTM 模型针对该设备进行了优化。
它可运行在标准墙壁插座上:无需服务器机房,无需特殊冷却。这对于需要全天候运行的智能体来说很重要。
内置网络用于集群:ConnectX-7 可让两台 DGX Spark 64GB 系统组成集群,获得 128GB 内存和更强的算力。NVIDIA Sync Cluster Assistant 简化了设置。
哪些开放模型适合 64GB
硬件只是一半的故事。另一半是 30B 级别的开放模型已经足够好,可以胜任智能体工作。
模型开发者类型占用空间在 Spark 上的角色Muse GlimmerMeta29.6B 稠密,文本 + 图像,Apache 2.0约 17GB(量化)主智能体模型Nemotron 3.5 LightningNVIDIA30B MoE(30B-A3B)NVFP4 检查点用于长时间运行智能体的快速执行器Qwen3.8-27BAlibaba Qwen27B 稠密约 13.5GB 权重(4-bit)通用智能体和编程
占用空间仅为权重估算;KV 缓存和运行时开销另计。
Muse Glimmer 是主模型。Meta 从 Muse Spark 蒸馏而来,后者是 Meta AI 助手背后的模型家族。它面向本地智能体:可靠的工具调用、长时间多步骤任务,以及从失败中恢复。Meta 报告其在 SWE-Bench Pro 上为 51.2,在 MCP Atlas 上为 75.5。上下文可达 131K tokens。它也可作为 NVIDIA NIM 使用。
完整的 BF16 Glimmer 需要 55GB 以上,几乎没给上下文留下任何空间。约 17GB 的量化版本是 64GB 上的实用选择。
像 DeepSeek V4 Flash 这样更大的模型需要不止一台设备。NVIDIA 自己的基准测试在 4 台 64 GB 集群的 Spark 上运行它。
你可以在单台设备上构建的 5 样东西
1. 一个全天候运行的个人智能体
安装 Hermes 并将其指向 Muse Glimmer 或 Nemotron 3.5 Lightning。给它工具:你的 GitHub 仓库、一个测试运行器、arXiv 类别的 RSS 订阅。让它整夜运行。
到早上,它已经对新问题进行了分类,复现了一个失败的测试,并起草了一个 pull request 供审查。它还总结了你永远不会打开的 30 篇论文。你的私人笔记、代码和电子邮件永远不会离开这台机器。
2. 在自己的代码仓库上微调编码模型
70B 模型上的 QLoRA 可以塞进 64GB。在你的代码库、内部文档和过往 PR 审查上训练它。然后在本地将其作为编码助手提供服务,它了解你的约定。
NVIDIA 在单节点上测得 nanochat 分布式微调约为 18,400 tokens/s。
3. 一个首日模型评估基准
一个新的开源权重模型在 Hugging Face 上发布。当天就通过 Ollama 或 vLLM 拉取它。用你自己的问题集对它进行测试。
评估准确率,然后测量首 token 时间(TTFT)和每秒 token 数。将其与你当前的模型进行比较。重新运行评估 50 次没有 API 费用。
4. 一个多模型智能体团队
统一内存让多个模型共享一个内存池。将 Bonsai 2 作为路由器运行,将 Glimmer 作为主推理智能体。这大约是 23GB 的权重。
其余部分覆盖 KV 缓存、操作系统和工具进程。当问题超出本地容量时,智能体可以将经过脱敏的问题发送给更大的云端模型。
5. 边缘和机器人原型设计
针对特定任务微调视觉 transformer,比如在工厂车间摄像头上发现异常。使用相同的 CUDA 栈在本地验证它。然后将其部署到边缘的 NVIDIA Jetson 设备上。
当一台不够用时:使用 NVIDIA Sync 进行集群化
每台 DGX Spark 都配备 200GbE 的 ConnectX-7。集群化是原生功能,而非附加组件。
设置池化内存AI 算力(FP4)连接1 台 Spark(64GB)64GB最高 1 PFLOP—2 台 Spark(各 64GB)128GB最高 2 PFLOPS直连 QSFP 线缆,无需交换机2 台 Spark(各 128GB)256GB最高 2 PFLOPS直连 QSFP 线缆,无需交换机3 台 Spark(各 128GB)384GB最高 3 PFLOPSQSFP 环,无需交换机4 台 Spark(各 128GB)512GB最高 4 PFLOPS200GbE 交换机(QSFP56-DD,RoCE v2)
来源:NVIDIA。3 节点算力由单台规格推导得出。
NVIDIA 表示,2 台集群化的 64GB 单元可提供高达一台 128GB DGX Spark 的 1.7 倍性能。原因是 AI 算力和带宽翻倍:2 台单元合计提供高达 546 GB/s,是单台的两倍。
NVIDIA Sync 是管理层。Windows 和 macOS 应用会发现你网络中的 Spark 并管理 SSH 访问。其 Cluster Assistant 可为最多 4 个系统配置 ConnectX-7 网络。节点还可以通过 Tailscale 网状网络跨地点连接,数据路径中不经过云端。
规律相当清晰。集群化大致使每翻倍时的首 token 时间减半,并使微调接近线性扩展。解码的改善较为有限,4 个节点时约为 1.4 倍。对于读取长输入的智能体而言,TTFT 的提升才是关键。
分步多节点指南,包括在堆叠 Spark 上运行 vLLM,见 build.nvidia.com/spark。
它是什么,以及它不是什么
不是供 100 名用户使用的聊天服务器:273 GB/s 的带宽限制了并发解码吞吐量。
专为长输入、短输出工作而构建:读取一个代码仓库、一份日志转储或一叠论文,然后写出简短结果。
64GB 使单台机器上限为 100B 参数:如需更多,可集群 2 台设备或选择 128GB 配置。
关键要点
DGX Spark 64GB 保留 GB10、1 PFLOP FP4 以及完整的 NVIDIA AI 技术栈。
64GB 可运行当今 30–35B 级别的开源模型,如 Qwen 3.8 27B 和 Nemotron 3.5 Lightning。
最佳用途:常驻智能体、QLoRA 微调和首日模型评估——无需按 token 付费。
2 台设备通过 NVIDIA Sync 经 ConnectX-7 集群,可获得 128GB 以及最高达 128GB Spark 的 1.7 倍性能。
10 月 23 日上市;DGX Spark 128GB 仍可购买。
查看 DGX Spark 产品页面、NVIDIA Sync 和 DGX Spark playbooks。
感谢 NVIDIA 团队为本文提供的思想领导力/资源。本文由 NVIDIA 赞助。
文章 NVIDIA Announces DGX Spark 64GB: A 1-PetaFLOP Grace Blackwell Desktop for Local AI Agents, Fine-Tuning, and Inference 首次发布于 MarkTechPost。