NVIDIA Vera CPU Ökar AI-agenters Prestanda och Energieffektivitet

Bild: NVIDIA · Källa

NVIDIAs Vera CPU levererar topphastighet och energieffektivitet för AI-agenter, vilket möjliggör fler agenter per watt än ledande x86-CPU:er. Tidiga användare rapporterar upp till 2,2 gånger snabbare bearbetning på AI-arbetsuppgifter och stödjer AI-infrastruktur med begränsad strömförbrukning.

AI-agenter utför komplexa uppgifter som att söka information, fråga databaser, programmera och genomföra handlingar, vilka alla kräver sömlöst samarbete mellan GPU-resonemang och CPU-exekvering. Med detta i åtanke har NVIDIA introducerat Vera CPU, designad för att optimera både genomströmning och hastighet för AI-agenter, samtidigt som den bibehåller överlägsen energieffektivitet.

Leverantörer av AI-infrastruktur står inför utmaningen att stödja många agenter samtidigt utan att förlänga deras bearbetningstid, allt inom strikta effektbudgetar. Vera hanterar dessa begränsningar genom att leverera den snabbaste agenthastigheten tillsammans med hög kapacitet per watt, vilket konsoliderar uppgifter som vanligtvis delas mellan snabba och täta x86-processorer i en enda lösning.

I jämförelser i storskaliga datacenter som omfattar 100 megawatt ström rapporterar NVIDIA att Vera överträffar de snabbaste och mest energieffektiva x86-CPU:erna. Specifikt möjliggör Vera 1,6 gånger fler agenter per watt än de snabbaste x86-CPU:erna och uppnår dubbla hastigheten med bättre energieffektivitet jämfört med de mest energieffektiva x86-modellerna.

Tidiga branschadopterare har bekräftat Veras fördelar i produktionsliknande miljöer. Perplexity har accelererat agentbaserade kodningsuppgifter med 1,5 gånger och planerar bred införandet av Vera. DeepInfra har uppnått upp till 2,2 gånger snabbare agentorkestrering än de bästa x86-processorerna. ClickHouse har visat nästan linjär skalning över 176 kärnor med Vera och nått toppen av sina hårdvarumätningslistor. Andra företag som DuckLabs, Daytona och Modal rapporterade betydande prestandaförbättringar i sandbox-operationer och genomströmning jämfört med traditionella x86-system.

NVIDIA Vera positionerar sig som en transformerande CPU för AI-fabriker, som balanserar hastighet, agentdensitet och energieffektivitet för att möta kraven från moderna AI-arbetsbelastningar. Mer information om Vera och dess tekniska kapabiliteter finns tillgängligt via NVIDIAs officiella kanaler.