Oversikt over NVIDIA DGX Spark 64GB

Bilde: blogs.nvidia.com · Kilde

NVIDIA DGX Spark 64GB er en kompakt lokal AI-superdatamaskin designet for å kjøre og skalere AI-modeller på enheten, med støtte for modeller på opptil 100 milliarder parametere og enkel klynging for større arbeidsmengder.

NVIDIA DGX Spark 64GB er en lokal AI-plattform som er ment å gi utviklere, forskere og AI-entusiaster et kraftig, kompakt system optimalisert for å kjøre avanserte AI-modeller på enheten. Ifølge NVIDIA er denne konfigurasjonen utstyrt med 64 GB samlet minne og inkluderer GB10 Grace Blackwell Superchip, DGX OS og hele NVIDIA sin AI-programvarepakke, inkludert NVIDIA Agent Toolkit, CUDA-X AI-biblioteker og støtte for rammeverk som PyTorch samt populære runtime-miljøer som Ollama og vLLM.

Med mål om å støtte lokale AI-arbeidsbelastninger uten avhengighet av skyinfrastruktur, gjør DGX Spark det mulig for brukere å kjøre modeller med opptil 100 milliarder parametere på én enkelt enhet. Når AI-arbeidsmengder overstiger kapasiteten til én enhet, kan to DGX Spark 64GB-systemer sømløst klynges sammen ved hjelp av NVIDIA Sync Cluster Assistant, som samler minnet til 128 GB og forbedrer ytelsen med opptil 1,7 ganger i testede scenarier som NVIDIAs Qwen 3.8 27B-modell. Denne klyngingen muliggjøres av innebygd NVIDIA ConnectX-7-nettverk, som tillater direkte tilkobling via QSFP-kabler.

NVIDIA legger vekt på brukervennlighet ved oppsett og skalering av klynger, med automatisk oppdagelse og konfigurasjon håndtert av Sync-appen. Den kommende NVIDIA Sync Model Launcher har som mål å ytterligere forenkle kjøring av lokale AI-modeller ved å tilby en GUI-basert opplevelse for å starte modeller som Qwen 3.8 27B på én eller flere DGX Spark-enheter.

Produsert av partnere som Acer, ASUS, Dell, Gigabyte, HP og MSI, tilbys DGX Spark 64GB som et mer tilgjengelig alternativ sammenlignet med modeller med høyere minne, med en pris som starter på 4 999 USD. Plattformen er egnet for oppgaver som agentutvikling, inferens, finjustering, dataanalyse og edge computing. Videre planlegger større kreative applikasjoner som Blender å støtte plattformen, noe som utvider bruksområdet.

Denne oversikten er basert utelukkende på informasjon publisert av NVIDIA og annet kildemateriale, og inkluderer ikke praktiske tester eller erfaringsbasert innsikt.