CoreWeave lanserar NVIDIA Vera Rubin AI-infrastruktur och Forge-plattform för produktionsfärdig agentbaserad AI

Bild: NVIDIA · Källa

CoreWeave introducerar NVIDIA Vera Rubin NVL72-system och Vera CPU till sin molntjänst, vilket förbättrar AI-agenters arbetsbelastning med upp till 4,8 gånger snabbare inferens och över 3 gånger snabbare sandbox-start. Dessutom lanseras CoreWeave Forge, en enhetlig miljö för att effektivisera AI-modellträning och distribution.

CoreWeave, en molnleverantör specialiserad på AI-arbetsbelastningar, har meddelat implementeringen av NVIDIAs nästa generations AI-infrastruktur inom sin molnplattform, vilket markerar ett betydande steg i att stödja produktionsklara agentbaserade AI-applikationer. Genom nästan ett decennium av nära samarbete med NVIDIA erbjuder CoreWeave nu NVIDIA Vera Rubin NVL72-systemet utrustat med Spectrum-X 102,4T Ethernet-nätverk till sina kunder, vilket levererar betydande förbättringar i inferensprestanda.

Cognition, ett tillämpat AI-labb känt för sin Devin AI-programvaruingenjör, är först med att köra produktionsarbetsbelastningar på Vera Rubin NVL72. Tidiga benchmarktester visade att den nya infrastrukturen ger upp till 4,8 gånger ökad tokengenomströmning för programvaruingenjörinferensuppgifter jämfört med NVIDIAs tidigare GB200 NVL72-system. Denna förbättring översätts till snabbare realtidskodgenerering och mer responsiv flerstegslösning för Devin-agenten, vilket är avgörande för att hantera komplexa arbetsbelastningar med långa kontext och hög samtidighet.

Parallellt är CoreWeave bland de första molnleverantörerna att introducera NVIDIA Vera CPU, en processor konstruerad från grunden för agentbaserade AI-arbetsbelastningar. Dess arkitektur stöder körning av tusentals isolerade miljöer samtidigt, ett kritiskt krav för skalningsbehov vid agentträning och utvärdering. Tester visade att CoreWeaves implementering av Vera CPU:er uppnådde mer än tre gånger snabbare agent-sandbox-starttider, vilket påskyndar isolerad förstärkningsinlärning och utvärderingsmiljöer. Vera CPU-racken erbjuder upp till 11 264 kärnor per rack, vilket möjliggör över 11 000 samtidiga isolerade agentarbetsbelastningar.

Som komplement till denna hårdvaruintroduktion lanseras CoreWeave Forge, en integrerad plattform utformad för att sluta AI-utvecklingsloopen genom att förena träning, utvärdering och kontinuerliga förbättringsarbetsflöden. Forge kombinerar verktyg som Weights & Biases, expertis från OpenPipe och det open source-baserade marimo notebook-projektet för att erbjuda en öppen, sammanlänkad miljö lämpad för olika AI-modeller, ramverk och moln. Nya funktioner inkluderar CoreWeave ARIA för experimentanalys och koditerering, Agent Lens för förbättrad övervakning av produktionsagenter och felupptäckt, samt CoreWeave Sandboxes för att köra isolerade AI-agentuppgifter säkert och effektivt.

CoreWeave Forge stödjer serverlös övervakad finjustering och förstärkningsinlärning, och tränar enligt uppgift modeller 1,4 gånger snabbare och till 40 % lägre kostnad jämfört med självhanterade lösningar. Dessutom driver NVIDIAs open-source inferensramverk Dynamo CoreWeaves hanterade inferenstjänster och stöder RL Rollouts, vilket möjliggör kontinuerlig förstärkningsinlärning utan omdistribution.

Den kombinerade NVIDIA och CoreWeave-plattformen har attraherat en mångfald av användare från startups till etablerade företag. Till exempel använder Ennoble Care, en stor vårdgivare, CoreWeaves infrastruktur för klinisk AI-inferens för att stödja dokumentation och beslutsfattande över flera delstater. CoreWeave har också framstående branschrankningar, inklusive Platinstatus i flera MLPerf-benchmarks, och betjänar nio av de tio största AI-laboratorierna.

Dessa framsteg placerar CoreWeave och NVIDIA som nyckelaktörer för att möjliggöra övergången av AI-agenter från experimentstadier till robusta produktionssystem som kan hantera mjukvaruutveckling, kliniskt stöd och andra komplexa verklighetsuppgifter. De nya erbjudandena tillkännagavs och visades upp vid CoreWeave Fully Connected, ett teknologiskt evenemang hållit i San Francisco.