Übersicht zum NVIDIA DGX Spark 64GB

Image: NVIDIA · Source

Der NVIDIA DGX Spark 64GB ist ein kompakter lokaler KI-Supercomputer, der für das Ausführen und Skalieren von KI-Modellen auf dem Gerät konzipiert ist, mit Unterstützung für Modelle mit bis zu 100 Milliarden Parametern und einfacher Clusterbildung für größere Arbeitslasten.

Der NVIDIA DGX Spark 64GB ist eine lokale KI-Plattform, die Entwicklern, Forschern und KI-Enthusiasten ein leistungsstarkes, kompaktes System bietet, das für das Ausführen fortschrittlicher KI-Modelle auf dem Gerät optimiert ist. Laut NVIDIA ist diese Konfiguration mit 64 GB einheitlichem Speicher ausgestattet und beinhaltet den GB10 Grace Blackwell Superchip, DGX OS sowie den vollständigen NVIDIA KI-Software-Stack, einschließlich NVIDIA Agent Toolkit, CUDA-X AI-Bibliotheken und Unterstützung für Frameworks wie PyTorch sowie populäre Laufzeitumgebungen wie Ollama und vLLM.

Mit dem Ziel, lokale KI-Arbeitslasten ohne Cloud-Infrastruktur zu unterstützen, ermöglicht der DGX Spark den Nutzern, Modelle mit bis zu 100 Milliarden Parametern auf einem einzelnen Gerät auszuführen. Überschreiten die KI-Aufgaben die Kapazität einer einzelnen Einheit, können zwei DGX Spark 64GB Systeme nahtlos mittels NVIDIA Sync Cluster Assistant zu einem Cluster verbunden werden, wodurch der Speicher auf 128 GB erweitert wird und die Leistung in getesteten Szenarien wie dem Qwen 3.8 27B Modell von NVIDIA um bis zu das 1,7-fache gesteigert wird. Diese Clusterbildung wird durch integriertes NVIDIA ConnectX-7 Networking ermöglicht, das eine Direktverbindung über QSFP-Kabel erlaubt.

NVIDIA hebt die Benutzerfreundlichkeit bei der Einrichtung und Skalierung von Clustern hervor, wobei automatische Erkennung und Konfiguration durch die Sync-App gesteuert werden. Der kommende NVIDIA Sync Model Launcher soll das Ausführen lokaler KI-Modelle weiter vereinfachen und eine GUI-basierte Erfahrung beim Starten von Modellen wie Qwen3.8 27B auf einzelnen oder mehreren DGX Spark-Systemen bieten.

Hergestellt von Partnern wie Acer, ASUS, Dell, Gigabyte, HP und MSI, wird der DGX Spark 64GB als zugänglichere Option im Vergleich zu Modellen mit größerem Speicher angeboten, mit einem Startpreis von 4.999 US-Dollar. Die Plattform eignet sich für Aufgaben wie Agentenentwicklung, Inferenz, Feineinstellung, Datenwissenschaft und Edge-Computing. Zudem planen große Kreativanwendungen wie Blender, die Plattform zu unterstützen, wodurch deren Nutzbarkeit erweitert wird.

Diese Übersicht basiert ausschließlich auf von NVIDIA veröffentlichten Informationen und weiteren Quellenmaterialien und beinhaltet keine praktischen Tests oder Erfahrungsberichte.