一、NVIDIA DGX Spark 系统特性和优势
NVIDIA GB10 超级芯⽚
NVIDIA Grace Blackwell 架构提供了强⼤的系统级芯⽚ (SoC) 解决⽅案,它将 NVIDIA Blackwell GPU 技术与 ARM CPU 核⼼相结合,可在⾼效的紧凑型 SoC 中实现超级计算机级性能。
CPU 核⼼数
GB10 搭载 20-core Arm、10 个 Cortex-X925 核⼼和 10 个 Cortex-A725 核⼼。
Blackwell GPU
GB10 Blackwell GPU 搭载 6144 个 CUDA 核⼼,⽤于加速图形和 FP32 计算⼯作负载,同时搭载第 5 代 Tensor Core,可实现⾼达 1000 AI TOPS1 的 FP4 性能,并配备第 4 代 RT Core 以提供实时光线追踪加速。该 GPU 还包含第 5 代 NVDEC 和第 9 代 NVENC 引擎,⽤于加速编码和解码 MPEG-2、VC-1、H.264 (AVCHD)、H.265 (HEVC)、VP8、VP9 和 AV1 视频格式,包括对 4:2:2 H.264 和 H.265 视频的⽀持。
128GB LPDDR5x 内存
DGX Spark 配有 128GB 统⼀寻址 LPDDR5x 系统内存。DGX Spark 可通过 CPU 和 GPU 访问,以便⽤⼾处理⼤型⼯作负载,包括具有多达 200B 参数的 AI 模型。
ConnectX-7 ⽹卡
DGX Spark 配备⼀个 ConnectX-7 智能⽹卡,可⽀持⾼达 100 千兆位以太⽹ (GbE)。通过 ConnectX-7 ⽹络端⼝连接两个 DGX Spark 系统,⽤⼾即可运⾏具有多达 405B 参数的 AI 模型。
NVIDIA DGX 操作系统
DGX Spark 开发环境预安装了 DGX 开发者熟悉的 NVIDIA DGX 操作系统。利⽤ DGX 操作系统软件(包括 Ubuntu Linux),可轻松将⼯作迁移到 DGX Cloud 或任何加速数据中⼼或云基础设施。已安装的软件还包括 RTX ⼯具包和库,可⽀持 NVIDIA RTX 可视化技术。
NVIDIA AI 软件
除 DGX 操作系统以外,DGX Spark 还⽀持 NVIDIA AI 软件堆栈,包括 CUDA、CUDA-X ⼯具包和库,以便 AI 开发者快速启动其 AI 项⽬和⼯作流。⽤⼾可安装⾃⼰常⽤的 AI 框架、SDK 和服务,例如 PyTorch、TensorFlow 或 Jupyter Notebook,或利⽤ NVIDIA 平台和框架(例如 Isaac、Metropolis 或 Holoscan),以及 NVIDIA NIM 和 AI Blueprint ⽰例⼯作流。
NVIDIA DGX Spark Founders Edition 产品设计
NVIDIA DGX Spark 是⼀款⼩巧型桌⾯系统,尺⼨为 150 毫⽶(⻓)× 150 毫⽶(宽)× 50.5 毫⽶(⾼),占⽤空间极⼩,可安装到任何桌⾯上。该系统的设计外观类似于初版 DGX 1 系统,即于 2016 年⾸次向客⼾交付的初代 AI 超级计算机,可帮助提⾼任何⼯作空间的吸引⼒。
二、与新⼀代⼤参数 AI 模型协同⼯作
凭借 128 GB 的统一寻址系统内存和对 FP4 数据格式的⽀持,NVIDIA DGX Spark 可以⽀持多达 200B 参数的 AI 模型,使 AI 开发⼈员能够在桌⾯端对新一代 AI 推理模型 进⾏原型设计、微调和推理。借助内置的 NVIDIA ConnectX ⽹络技术,可以连接两台 NVIDIA DGX Spark 系统,以处理 Llama 3.1 405B 等更⼤的模型。
三、规格参数
