NVIDIA pristato naujus Nemotron modelius: Super VL duomenų centrams ir Bolt ribinių įrenginių reikmėms

Vaizdas: NVIDIA · Šaltinis

NVIDIA plėtė savo Nemotron dirbtinio intelekto modelių šeimą pristatydama aukšto efektyvumo 120 milijardų parametrų Super VL versiją įmonėms bei du Bolt modelius, skirtus vietinėms darbo užduotims ribiniuose įrenginiuose, leidžiančius pritaikyti DI agentus įvairiuose skaičiavimo lygiuose.

NVIDIA išplėtė savo Nemotron dirbtinio intelekto modelių šeimą pristatydama Nemotron 3.5 Super VL, 120 milijardų parametrų atviro modelio versiją, skirtą specializuotiems nuolat veikiantiems DI agentams, kuriems reikia greito užduočių įvykdymo ir aukšto tikslumo. Kartu su Super VL NVIDIA pristatė du naujus ribinių įrenginių modelius: Nemotron 3.5 Bolt 74B-A9B 24GB, subalansuotą tarp intelekto ir greičio vietinėms agentinėms užduotims, ir mažesnį Bolt E4B 4GB, optimizuotą greitiems pokalbių DI agentams. Kol Super VL ir Bolt 74B-A9B modeliai jau yra prieinami, Bolt E4B bus paleistas 2026 m. spalio 23 d.

Super VL pasižymi priekinio lygio tikslumu sudėtingose daugiamodėse užduotyse, tokiose kaip instrukcijų vykdymas, įrankių naudojimas, verslo darbo procesai ir vizualinis dokumentų supratimas, tačiau turi maždaug penktadalį NVIDIA didžiausio samprotavimo modelio parametrų. Jis veikia penkis kartus greičiau nei konkuruojantys atviri modeliai, leidžiant įmonėms spartinti darbo procesus, kurie dažnai trunka dienas ar savaites. Skirtingai nuo savininkiškų modelių, Super VL atviri svoriai suteikia galimybę organizacijoms atlikti papildomą mokymąsi su savo duomenimis ir diegti modelį savo infrastruktūroje, užtikrinant kontrolę ir privatumą.

Bolt serija suteikia DI agentų intelektą ribiniuose įrenginiuose. Bolt 74B-A9B 24GB naudoja 2 bitų kvantizaciją, kad tilptų į 24 GB atminties, efektyviai veikia tokioje įrangoje kaip NVIDIA RTX ir DGX Spark sistemose ir palaiko lygiagrečias programas. Šis modelis yra pripažintas už greičio ir intelekto balansą, užimdams #1 vietą PinchBench atvirose modelių klasėse. Bolt E4B 4GB skirtas pokalbių ir fiziniams DI agentams įvairiose aparatinėse platformose, suteikdamas daug etapų sąveikos galimybes balso asistentams ir įterptam DI.

NVIDIA pabrėžia plačią Super VL naudojimą ir pritaikomumą – finansų, kibernetinio saugumo, programavimo, mokslinių tyrimų ir sveikatos priežiūros srityse verslai toliau mokė modelį pagal specifines užduotis. Partneriai kaip Scale AI, EY, AI21, Atlassian, CrowdStrike, Salesforce ir kiti naudoja Super VL užduotims nuo dėlsaikų tyrimų iki saugumo ir medicininių reikalavimų analizės.

Super VL daugiamodis vizijos ir kalbos galimybes leidžia jam sklandžiai suvokti tekstą, lenteles, diagramas, vaizdus ir tinklalapius, leidžiant DI agentams integruoti vizualinius ir tekstinius duomenis be užduočių perleidimo tarp sistemų. Modelis ir duomenų rinkiniai yra visiškai atviri, pateikiami su mokymosi receptais, prieinami per tokias platformas kaip Hugging Face ir NVIDIA NIM, kuri pateikia modelį kaip mikroservisą, optimizuotą įmonių diegimui.

Nemotron 3.5 modeliai suderinami su plačiu NVIDIA aparatūros asortimentu, įskaitant DGX Spark, DGX Station, RTX PRO, Jetson ir GeForce RTX kompiuterius, jungdami duomenų centro lygio DI ir vietinį ribinį intelektą. Šis pristatymas dar labiau papildo NVIDIA rugpjūčio mėnesį pristatytus Nemotron Lightning ir Ultra modelius, skirtus didelio pralaidumo ir pažangiems samprotavimo darbams.

Pristatymus papildo NVIDIA Nemotron koalicija – pasaulinė DI laboratorijų ir kūrėjų partnerystė, kurioje dalyvauja Mistral AI, LangChain, Perplexity ir kiti, bendradarbiaujantys kuriant atvirus pažangius modelius. Koalicijos pirmasis projektas, bendras NVIDIA ir Mistral AI kūrinys, palaikys būsimą Nemotron 4 šeimą, pabrėždamas skaidrumą, bendradarbiavimą ir DI suverenitetą.

NVIDIA tęsiamos investicijos į atvirus, pritaikomus DI modelius siekia demokratizuoti pažangų dirbtinį intelektą ir suteikti organizacijoms galimybę kontroliuoti duomenis ir DI diegimą įvairiose veiklos aplinkose.