CoreWeave käivitab NVIDIA Vera Rubin AI infrastruktuuri ja Forge platvormi tootmiskõlbliku agentse AI jaoks

Pilt: NVIDIA · Allikas

CoreWeave tutvustab NVIDIA Vera Rubin NVL72 süsteeme ja Vera protsessorit oma pilves, parandades AI agentide töökoormusi kuni 4,8 korda kiirema ennustusega ja üle 3 korda kiirema sandboxi käivitusega. Samuti tutvustab ta CoreWeave Forge'i, ühtset keskkonda AI mudelite koolituse ja juurutamise lihtsustamiseks.

CoreWeave, pilveteenuse pakkuja, mis on spetsialiseerunud tehisintellekti töökoormustele, teatas NVIDIA järgmise põlvkonna AI infrastruktuuri juurutamisest oma pilveplatvormil, mis tähistab olulist sammu tootmiskõlblike agentsete AI rakenduste toetamisel. Ligikaudu kümnendi pikkusest tihedast koostööst NVIDIA-ga tulenevalt pakub CoreWeave nüüd oma klientidele NVIDIA Vera Rubin NVL72 süsteemi, mis on varustatud Spectrum-X 102,4T Etherneti võrgustikuga, pakkudes olulisi täiustusi ennustustulemuste jõudluses.

Cognition, rakendusliku AI labor, mis on tuntud oma Devin AI tarkvarainseneri poolest, on esimene, kes haldab tootmiskoormusi Vera Rubin NVL72 süsteemil. Varajased võrdlusmõõtmised näitasid, et uus infrastruktuur pakub kuni 4,8 korda suuremat märgitöötluse läbilaskevõimet tarkvarainseneride ennustusülesannetes NVIDIA varasema GB200 NVL72 süsteemiga võrreldes. See tulemus tähendab kiirendatud reaalajas koodi genereerimist ja tundlikumat mitmeastmelist mõtlemisvõimet Devin agendi jaoks, mis on oluline keerukate töökoormuste korral, mida iseloomustavad pikad kontekstid ja kõrge korraga toimuvus.

Lisaks sellele on CoreWeave üks esimesi pilveteenuse pakkujaid, kes tutvustab NVIDIA Vera protsessorit, mis on agentse AI töökoormuste jaoks algusest peale loodud protsessor. Selle arhitektuur võimaldab korraga käitada tuhandeid isoleeritud keskkondi, mis on hädavajalik agentide koolituse ja hindamise skaleerimisel. Testid näitasid, et CoreWeave Vera protsessorite kasutuselevõtt tagas üle kolme korra kiiremad agentide sandboxide käivitamisajad, kiirendades isoleeritud tugevdusõppe ja hindamise keskkondi. Vera protsessori riiulid pakuvad kuni 11 264 südamikku riiuli kohta, võimaldades üle 11 000 samaaegset isoleeritud agentide töökoormust.

Selle riistvara rullimise täiendusena käivitas CoreWeave Forge'i, integreeritud platvormi, mis on loodud AI arendustsükli sulgemiseks, ühendades koolitus-, hindamis- ja pideva täiustamise töövood. Forge koondab tööriistu nagu Weights & Biases, OpenPipe ekspertiisi ning avatud lähtekoodiga marimo märkmerakenduse projekti, pakkudes avatud ja ühendatud keskkonda, mis sobib mitmesuguste AI mudelite, raamistikude ja pilvedega. Uued funktsioonid hõlmavad CoreWeave ARIA eksperimendi analüüsi ja koodi iteratsiooni jaoks, Agent Lens'i tootmises agentide jälgimise ja rikete tuvastamise parandamiseks ning CoreWeave Sandboxes'i, mis võimaldab AI agentide ülesannete turvalist ja efektiivset isoleeritud käivitamist.

CoreWeave Forge toetab serverivaba järelevalvega peenhäälestust ja tugevdusõpet, treenides mudeleid 1,4 korda kiiremini ning 40% madalamal kulul võrreldes isemajandatavate lahendustega. Lisaks varustab NVIDIA avatud lähtekoodiga ennustusraamistik Dynamo CoreWeave hallatavaid ennustusteenuseid ja toetab RL Rollouts'i, võimaldades pidevat tugevdusõpet ilma ümberjuurutamiseta.

NVIDIA ja CoreWeave ühisplatvorm on köitnud mitmesuguseid kasutajaid alates idufirmadest kuni ettevõteteni. Näiteks kasutab suursugune tervishoiuteenuste pakkuja Ennoble Care CoreWeave infrastruktuuri kliinilise AI ennustuste jaoks, toetades dokumentatsiooni ja otsuste tegemist mitmes osariigis. CoreWeave'l on ka tunnustatud tööstuslikud rankingud, sealhulgas platinistaatuse saavutamine mitmetes MLPerf võrdluskatsetes ning teenindab üheksat kümnest juhtivast AI laborist.

Need arengud positsioneerivad CoreWeave ja NVIDIA kui võtmeagente AI agentide üleminekul eksperimendifaasist vastupidavate tootmissüsteemideni, mis on võimelised tarkvaraarenduseks, kliiniliseks toetuseks ja muude keerukate reaalsete ülesannete täitmiseks. Uued pakkumised kuulutati välja ja neid demonstreeriti CoreWeave Fully Connected tehnoloogiaüritusel, mis toimus San Franciscos.