NVIDIA DGX Spark 64GB apžvalga

Vaizdas: blogs.nvidia.com · Šaltinis
NVIDIA DGX Spark 64GB – kompaktiškas vietinės dirbtinio intelekto superkompiuteris, skirtas AI modelių paleidimui ir mastelio plėtimui įrenginyje, palaikantis iki 100 milijardų parametrų modelius ir lengvą klasterizavimą didesniems darbo krūviams.
NVIDIA DGX Spark 64GB yra vietinė dirbtinio intelekto platforma, skirta suteikti kūrėjams, tyrėjams ir AI entuziastams galingą, kompaktišką sistemą, optimizuotą pažangių AI modelių paleidimui įrenginyje. NVIDIA pateiktais duomenimis, ši konfigūracija aprūpinta 64 GB vieningos atminties ir apima GB10 Grace Blackwell „Superchip“, DGX OS bei visą NVIDIA AI programinės įrangos paketą, įskaitant NVIDIA Agent Toolkit, CUDA-X AI bibliotekas ir palaikymą tokioms sistemoms kaip PyTorch bei populiariems paleidimo įrankiams, tokiems kaip Ollama ir vLLM.
Siekiant palaikyti vietinius AI darbo krūvius be priklausomybės nuo debesų infrastruktūros, DGX Spark leidžia vartotojams paleisti modelius, turinčius iki 100 milijardų parametrų, viename įrenginyje. Kai AI darbo krūviai viršija vienos sistemos pajėgumą, du DGX Spark 64GB įrenginiai gali sklandžiai sujungti savo išteklius naudodami NVIDIA Sync Cluster Assistant, taip apjungdami iki 128 GB atminties ir pagerindami našumą iki 1,7 karto, kaip parodyta testuose su NVIDIA Qwen 3.8 27B modeliu. Tokį klasterizavimą palengvina integruota NVIDIA ConnectX-7 tinklo technologija, leidžianti tiesioginį ryšį per QSFP kabelius.
NVIDIA akcentuoja paprastumą nustatant ir plečiant klasterius, automatinį aptikimą ir konfigūravimą vykdant per Sync programėlę. Artėjančio NVIDIA Sync Model Launcher tikslas – dar labiau supaprastinti vietinių AI modelių paleidimą, suteikiant grafinę vartotojo sąsają darbui su tokiais modeliais kaip Qwen 3.8 27B tiek viename, tiek keliuose DGX Spark įrenginiuose.
Platformą gamina partneriai, įskaitant Acer, ASUS, Dell, Gigabyte, HP ir MSI. DGX Spark 64GB siūlomas kaip patrauklesnis pasirinkimas lyginant su didesnės atminties modeliais, pradinė kaina yra nuo 4999 USD. Sistema tinka agentų kūrimui, išvedimui, modelių pritaikymui, duomenų mokslo užduotims bei vietiniam skaičiavimui pakraščiuose. Be to, pagrindinės kūrybinės programos, pavyzdžiui, Blender, planuoja palaikyti šią platformą, taip plečiant jos panaudojimo galimybes.
Ši apžvalga remiasi tik NVIDIA paskelbta informacija ir kitais šaltiniais, neįtraukiant praktinių bandymų ar patirties.

Skaityti originalų šaltinį ↗

Komentarai (0)
Komentarų dar nėra. Pradėkite diskusiją.
Rašyti komentarą
Komentarai publikuojami po moderavimo. Jūsų vardas ir komentaras bus vieši. Paskyra