NVIDIA DGX Spark 64GB pārskats

Attēls: blogs.nvidia.com · Avots

NVIDIA DGX Spark 64GB ir kompakts lokālais AI superdators, kas paredzēts AI modeļu palaišanai un mērogam ierīcē, piedāvājot atbalstu modeļiem ar līdz 100 miljardiem parametru un vienkāršu klasterizāciju lielākiem darba slodzēm.

NVIDIA DGX Spark 64GB ir lokāla AI platforma, kas paredzēta, lai sniegtu izstrādātājiem, pētniekiem un AI entuziastiem jaudīgu, kompakta dizaina sistēmu, kas optimizēta modernu AI modeļu palaišanai ierīcē. Kā detāli aprakstījis NVIDIA, šī konfigurācija ir aprīkota ar 64GB vienotu atmiņu un ietver GB10 Grace Blackwell Superchip, DGX OS un pilnu NVIDIA AI programmatūras komplektu, tostarp NVIDIA Agent Toolkit, CUDA-X AI bibliotēkas, kā arī atbalstu tādām ietvarstruktūrām kā PyTorch un populāriem izpildlaikiem, piemēram, Ollama un vLLM.

Plānots atbalstīt lokālas AI darba slodzes bez atkarības no mākoņinfrastruktūras, DGX Spark ļauj lietotājiem palaist pat līdz 100 miljardu parametru modeļus vienā ierīcē. Kad AI darba slodzes pārsniedz viena vienība kapacitāti, divas DGX Spark 64GB sistēmas var viegli klasteroties kopā, izmantojot NVIDIA Sync Cluster Assistant, apvienojot atmiņu līdz 128GB un palielinot veiktspēju līdz pat 1,7 reizēm testētos scenārijos, piemēram, NVIDIA Qwen 3.8 27B modelī. Šo klasterizāciju nodrošina iebūvētā NVIDIA ConnectX-7 tīkla tehnoloģija, kas ļauj tiešu savienojumu ar QSFP kabeļiem.

NVIDIA uzsver vienkāršību klasteru iestatīšanā un mērogošanā, automātisku atpazīšanu un konfigurēšanu veic Sync lietotne. Drīzumā tiks laists klajā NVIDIA Sync Model Launcher, kas vēl vairāk atvieglos lokālo AI modeļu palaišanu, nodrošinot GUI vadītu vidi modeļu, piemēram, Qwen3.8 27B palaišanai vienā vai vairākās DGX Spark ierīcēs.

Ražotāji, tajā skaitā Acer, ASUS, Dell, Gigabyte, HP un MSI, piedāvā DGX Spark 64GB kā pieejamāku risinājumu, salīdzinot ar modeļiem ar lielāku atmiņas apjomu, sākot no cenas 4999 ASV dolāru apmērā. Platforma ir piemērota tādiem uzdevumiem kā aģentu izstrāde, inferencēšana, smalkā regulēšana, datu zinātne un maldatoru aprēķini. Turklāt nozīmīgas radošas programmas, piemēram, Blender, plāno platformas atbalstu, paplašinot tās pielietojamību.

Šis pārskats balstīts tikai uz NVIDIA publicēto informāciju un citiem avotiem, neietverot praktiskus testus vai pieredzes atziņas.