CoreWeave pristato NVIDIA Vera Rubin AI infrastruktūrą ir Forge platformą gamybai paruoštai agentinei dirbtinio intelekto sistemai

Vaizdas: NVIDIA · Šaltinis

CoreWeave diegia NVIDIA Vera Rubin NVL72 sistemas ir Vera CPU savo debesyje, didinant AI agentūros darbo našumą iki 4,8 karto greitesnio spėliojimo ir daugiau kaip 3 kartus spartesnio saugos aplinkų paleidimo. Taip pat pristato CoreWeave Forge – vieningą aplinką AI modelių mokymui ir diegimui supaprastinti.

CoreWeave, debesų kompiuterijos paslaugų teikėjas, specializuojantis dirbtinio intelekto užduotims, paskelbė įdiegęs NVIDIA naujos kartos AI infrastruktūrą savo debesijos platformoje, žyminčią reikšmingą žingsnį link gamybai paruoštų agentinių AI taikymų palaikymo. Remdamasi beveik dešimtmečio artimu bendradarbiavimu su NVIDIA, CoreWeave dabar siūlo klientams NVIDIA Vera Rubin NVL72 sistemą su Spectrum-X 102,4T Ethernet tinklu, kas suteikia reikšmingą spėjimo našumo pagerinimą.

Cognition, taikomosios AI laboratorija, žinoma dėl Devin AI programinės inžinerijos agento, yra pirmoji, kuri realiai naudoja darbo užduotis Vera Rubin NVL72 aplinkoje. Ankstyvieji testai parodė, kad naujoji infrastruktūra leidžia iki 4,8 karto didesnį žetonų pralaidumą programinės įrangos inžinerijos spėjimo užduotyse, palyginti su ankstesne NVIDIA GB200 NVL72 sistema. Šis padidėjimas reikšmingai spartina realaus laiko kodo generavimą ir gerina daugiažingsnį samprotavimą Devin agentui, kas yra esminė sudėtingų užduočių, apimančių ilgas kontekstines grandines ir didelį vienalaikį apkrovimą, tvarkymui.

Be to, CoreWeave yra vienas pirmųjų debesų tiekėjų, pristatančių NVIDIA Vera CPU – procesorių, sukurtą nuo pagrindų agentinėms AI apkrovoms. Jo architektūra leidžia vienu metu vykdyti tūkstančius izoliuotų aplinkų, kas yra kritiškai svarbu agentų mokymo ir vertinimo mastelio didinimui. Testavimai parodė, kad CoreWeave diegimas su Vera CPU leis iki triskart spartesnį agentų saugos aplinkų paleidimą, paspartinant izoliuotą stiprinamojo mokymo ir vertinimo procesą. Vera CPU stelažai teikia iki 11 264 branduolių viename stelaže, leidžiant daugiau nei 11 000 vienu metu veikiančių izoliuotų agentų darbų.

Papildydama šią aparatūros diegimo naujovę, CoreWeave pristato CoreWeave Forge – integruotą platformą, kuri uždaro AI vystymo ciklą sujungdama mokymą, vertinimą ir nuolatinio tobulinimo darbo eigas. Forge apjungia įrankius kaip Weights & Biases, atvirą ekspertyzę iš OpenPipe bei atvirojo kodo „marimo“ užrašų knygutės projektą, siūlydama atvirą, susietą aplinką tinkamą įvairiems AI modeliams, karkasams ir debesims. Naujos funkcijos apima CoreWeave ARIA eksperimentų analizei ir kodo iteracijai, Agent Lens geresniam gamybinės agentūros stebėjimui ir gedimų aptikimui, bei CoreWeave Sandboxes saugiam ir efektyviam izoliuotų AI agentų užduočių vykdymui.

CoreWeave Forge palaiko serverless prižiūrimą finetuning’ą ir stiprinamąjį mokymą, anot duomenų, modelius treniruojant 1,4 karto greičiau ir 40% mažesnėmis sąnaudomis, palyginti su savarankiškai valdomomis sistemomis. Be to, NVIDIA atviro kodo spėjimo karkasas Dynamo maitina CoreWeave valdomas spėjimo paslaugas ir palaiko RL Rollouts, leidžiant nuolatinį stiprinamąjį mokymą be perkrovimo.

NVIDIA ir CoreWeave platformos junginys pritraukė įvairius naudotojus nuo startuolių iki įmonių. Pavyzdžiui, Ennoble Care, didelis sveikatos priežiūros paslaugų teikėjas, naudoja CoreWeave infrastruktūrą klinikinei AI spėjamosios analizės paslaugai dokumentacijai ir sprendimų palaikymui keliuose valstijose. CoreWeave užima išskirtines industrijos pozicijas, įskaitant Platinos statusą keliuose MLPerf testuose, ir aptarnauja devynias iš dešimties geriausių AI laboratorijų.

Šie pažangūs sprendimai pozicionuoja CoreWeave ir NVIDIA kaip pagrindinius veiksnius, remiančius AI agentų perėjimą nuo eksperimentinių stadijų prie patikimų gamybinių sistemų, gebančių atlikti programinės įrangos kūrimą, klinikinę paramą ir kitas sudėtingas realaus pasaulio užduotis. Nauji pasiūlymai buvo paskelbti ir pristatyti CoreWeave Fully Connected technologijų renginyje San Franciske.