CoreWeave ievieš NVIDIA Vera Rubin AI infrastruktūru un Forge platformu ražošanai gatavai agentu AI

Attēls: NVIDIA · Avots

CoreWeave pilnveido savus mākoņpakalpojumus ar NVIDIA Vera Rubin NVL72 sistēmām un Vera CPU, uzlabojot AI aģentu darba slodzes līdz pat 4,8 reizes ātrākai secināšanai un vairāk nekā 3 reizes ātrākai sandbox vidi uzsākšanai. Tāpat tiek prezentēta CoreWeave Forge – vienota vide AI modeļu apmācībai un izvietošanai.

CoreWeave, mākoņpakalpojumu sniedzējs, kas specializējas mākslīgā intelekta (AI) darba slodzēs, paziņoja par NVIDIA nākamās paaudzes AI infrastruktūras ieviešanu savā mākoņu platformā, iezīmējot nozīmīgu soli uz ražošanai gatavu aģentu AI atbalstu. Balstoties uz gandrīz desmit gadu ciešu sadarbību ar NVIDIA, CoreWeave tagad klientiem piedāvā NVIDIA Vera Rubin NVL72 sistēmu ar Spectrum-X 102,4T Ethernet tīkla savienojamību, nodrošinot būtiskus uzlabojumus secināšanas veiktspējā.

Kognition, pielietotā AI laboratorija ar Devin AI programmatūras izstrādātāju, ir pirmā, kas ražošanas darba slodzes veic Vera Rubin NVL72 platformā. Agrīnie veiktspējas testi parādīja, ka jaunā infrastruktūra nodrošina līdz pat 4,8 reizes lielāku tokenu caurlaidspēju programmatūras inženieru secināšanas uzdevumos, salīdzinot ar NVIDIA iepriekšējo GB200 NVL72 sistēmu. Šis pieaugums nozīmē ātrāku tiešraides koda ģenerēšanu un atsaucīgāku daudzpakāpju spriedumu Devin aģentam, kas ir būtiski sarežģītu darba slodžu apstrādei, kur raksturīgi ir gari konteksti un augsts vienlaicīgums.

Tāpat CoreWeave ir viens no pirmajiem mākoņpakalpojumu sniedzējiem, kas ievieš NVIDIA Vera CPU, procesoru, kas no sākuma izstrādāts agentu AI darba slodzēm. Tā arhitektūra atbalsta tūkstošiem izolētu vidi vienlaicīgu darbību, kas ir kritiska prasība aģentūras apmācības un novērtēšanas mērogošanai. Testi pierādīja, ka CoreWeave Vera CPU ieviešana nodrošina vairāk nekā trīsreiz ātrāku aģentu sandbox vidi uzsākšanu, paātrinot izolētās pastiprinātās mācīšanās un novērtēšanas vidi. Vera CPU plauktos ir līdz 11,264 kodoliem katrā plauktā, ļaujot darbināt vairāk nekā 11 000 vienlaicīgu izolētu aģentu darba slodzi.

Šīs aparatūras ieviešanas papildinājumā tika uzsākta CoreWeave Forge, integrēta platforma, kas paredzēta AI izstrādes cikla noslēgšanai, apvienojot apmācību, novērtēšanu un pastāvīgās pilnveidošanas darba plūsmas. Forge apvieno tādus rīkus kā Weights & Biases, OpenPipe ekspertīzi un atvērtā koda marimo piezīmju grāmatiņu projektu, piedāvājot atvērtu, savienotu vidi, kas piemērota dažādiem AI modeļiem, ietvariem un mākoņiem. Jaunās funkcijas ietver CoreWeave ARIA eksperimentu analīzei un koda iterācijām, Agent Lens uzlabotai ražošanas aģentu uzraudzībai un kļūmju atklāšanai, kā arī CoreWeave Sandboxes drošai un efektīvai izolētu AI aģentu uzdevumu izpildei.

CoreWeave Forge atbalsta bezserveru uzraudzītu smalku regulēšanu un pastiprinātās mācīšanās apmācību, apgalvojot, ka modeļus trenē 1,4 reizes ātrāk un par 40% lētāk salīdzinājumā ar pašpārvaldītām sistēmām. Turklāt NVIDIA atvērtā koda secinājumu ietvars Dynamo nodrošina CoreWeave pārvaldītās secināšanas pakalpojumus un atbalsta pastiprināšanas mācīšanās etapus (RL Rollouts), ļaujot nepārtrauktu pastiprinātās mācīšanās procesu bez atkārtotas ieviešanas.

Apvienotā NVIDIA un CoreWeave platforma piesaistījusi daudzveidīgu lietotāju klāstu no starta uzņēmumiem līdz korporācijām. Piemēram, Ennoble Care, liels veselības aprūpes pakalpojumu sniedzējs, izmanto CoreWeave infrastruktūru klīniskai AI secināšanai, lai atbalstītu dokumentāciju un lēmumu pieņemšanu vairākās štatos. CoreWeave arī lepni saglabā augstus nozares rangus, tostarp Platinum statusu vairākos MLPerf salīdzināšanas testos, kā arī apkalpo deviņas no desmit vadošajām AI laboratorijām.

Šie sasniegumi nostāda CoreWeave un NVIDIA kā galvenos virzītājus AI aģentu pārejai no eksperimentālām fāzēm uz izturīgām ražošanas sistēmām, kas spēj veikt programmatūras izstrādi, klīnisko atbalstu un citus sarežģītus reālas pasaules uzdevumus. Jaunie produkti tika izziņoti un demonstrēti CoreWeave Fully Connected tehnoloģiju pasākumā Sanfrancisko.