CoreWeave lanseeraa NVIDIA Vera Rubin AI -infrastruktuurin ja Forge-alustan tuotantovalmiille agenttitekoälylle

Kuva: NVIDIA · Lähde

CoreWeave ottaa käyttöön NVIDIA Vera Rubin NVL72 -järjestelmät ja Vera-suorittimen pilvipalvelussaan, parantaen tekoälyagenttien työkuormia jopa 4,8-kertaisella nopeammalla ennusteella ja yli kolminkertaisella nopeammalla hiekkalaatikkoympäristöjen käynnistyksellä. Samalla esitellään CoreWeave Forge, yhtenäinen ympäristö AI-mallien koulutuksen ja käyttöönoton sujuvoittamiseksi.

CoreWeave, pilvipalveluntarjoaja joka erikoistuu tekoälytyökuormiin, on ilmoittanut NVIDIA:n seuraavan sukupolven tekoälyinfrastruktuurin käyttöönotosta pilvialustallaan, mikä on merkittävä askel tuotantovalmiiden agenttitekoälysovellusten tukemisessa. Lähes vuosikymmenen tiiviin yhteistyön ansiosta NVIDIA:n kanssa CoreWeave tarjoaa nyt asiakkailleen NVIDIA Vera Rubin NVL72 -järjestelmän, joka on varustettu Spectrum-X 102,4T Ethernet -verkkoyhteydellä, tarjoten merkittäviä parannuksia ennustetehokkuudessa.

Cognition, sovelletun tekoälyn laboratorio, joka tunnetaan Devin AI -ohjelmistoinsinööristään, on ensimmäinen toimija, joka käyttää tuotantotyökuormia Vera Rubin NVL72 -järjestelmässä. Varhaiset vertailutestit osoittivat, että uusi infrastruktuuri tarjoaa jopa 4,8-kertaisen parannuksen token-läpäisykyvyssä ohjelmistoinsinöörin ennustustehtävissä verrattuna NVIDIA:n edelliseen GB200 NVL72 -järjestelmään. Tämä parannus tuo nopeampaa reaaliaikaista koodin generointia ja herkemmän monivaiheisen päättelyn Devin-agentille, mikä on olennaista monimutkaisten, pitkille konteksteille ja suurelle samanaikaisuudelle ominaisien työkuormien käsittelyssä.

Tämän lisäksi CoreWeave on yksi ensimmäisistä pilvipalveluntarjoajista, joka ottaa käyttöön NVIDIA Vera CPU:n, prosessorin, joka on suunniteltu alusta alkaen agenttitekoälyn työkuormille. Sen arkkitehtuuri tukee tuhansien eristettyjen ympäristöjen yhtäaikaista suorittamista, mikä on ratkaisevaa agenttien koulutuksen ja arvioinnin skaalauksessa. Testaukset osoittivat, että CoreWeaven Vera CPU -käyttöönotto saavutti yli kolminkertaisesti nopeammat agenttien hiekkalaatikkoympäristöjen käynnistysajat, kiihdyttäen eristettyä vahvistusoppimisen ja arvioinnin ympäristöjä. Vera CPU -kaapit tarjoavat jopa 11 264 ydintä kaappia kohti, mahdollistaen yli 11 000 samanaikaista eristettyä agenttityökuormaa.

Tätä laitteistopäivitystä täydentää CoreWeave Forgen lanseeraus, integroitua alustaa, joka sulkee tekoälyn kehityssyklin yhdistämällä koulutuksen, arvioinnin ja jatkuvan parantamisen työnkulut. Forge yhdistää työkaluja kuten Weights & Biases, OpenPipe-asiantuntemusta ja avointa lähdekoodia olevan marimo-notebook-projektin tarjoten avoimen, yhdistetyn ympäristön, joka sopii erilaisille tekoälymalleille, kehyksille ja pilviympäristöille. Uudet ominaisuudet sisältävät CoreWeave ARIA:n kokeiden analysointiin ja koodin iterointiin, Agent Lensin parantamaan tuotantoagenttien valvontaa ja vikojen havaitsemista, sekä CoreWeave Sandboxesin turvalliseen ja tehokkaaseen eristettyjen tekoälyagenttitehtävien ajamiseen.

CoreWeave Forge tukee serverittömiä valvottuja hienosäätöjä ja vahvistusoppimista, kouluttaen malleja ilmeisesti 1,4 kertaa nopeammin ja 40 % halvemmalla kustannuksella verrattuna itsehallinnoituihin ratkaisuihin. Lisäksi NVIDIA:n avoimen lähdekoodin ennustemalli Dynamo tukee CoreWeaven hallinnoituja ennustepalveluita ja RL Rollouts -toimintoja, mahdollistaen jatkuvan vahvistusoppimisen ilman uudelleenkäyttöönottoa.

Yhdistetyllä NVIDIA:n ja CoreWeaven alustalla on laaja käyttäjäkunta startupeista yrityksiin. Esimerkiksi Ennoble Care, suuri terveydenhuollon tarjoaja, käyttää CoreWeaven infrastruktuuria kliiniseen tekoälyennusteeseen tukemaan dokumentaatiota ja päätöksentekoa useissa osavaltioissa. CoreWeavella on myös korkeatasoisia alan sijoituksia, mukaan lukien Platinum-taso useissa MLPerf-vertailuissa, ja se palvelee yhdeksää kymmenestä huippuluokan tekoälylaboratoriosta.

Nämä edistysaskeleet asemoivat CoreWeaven ja NVIDIA:n keskeisiksi tekijöiksi tekoälyagenttien siirtymisessä kokeiluvaiheesta vankkoihin tuotantojärjestelmiin, jotka kykenevät ohjelmistokehitykseen, kliiniseen tukeen ja muihin monimutkaisiin todellisen maailman tehtäviin. Uudet palvelut julkistettiin ja esiteltiin CoreWeave Fully Connected -teknologiatapahtumassa San Franciscossa.