NVIDIA Vera CPU Forbedrer AI-agenters Ytelse og Energieffektivitet

Bilde: NVIDIA · Kilde

NVIDIAs Vera CPU leverer topphastighet og energieffektivitet for AI-agenter, og muliggjør flere agenter per watt enn ledende x86 CPUer. Tidlige brukere rapporterer opptil 2,2 ganger raskere behandling på AI-arbeidsoppgaver, og støtter energieffektiv AI-infrastruktur.

AI-agenter utfører komplekse oppgaver som å søke etter informasjon, stille spørsmål til databaser, kode og utføre handlinger, som alle krever sømløst samarbeid mellom GPU-resonnering og CPU-eksekvering. Med dette for øye har NVIDIA lansert Vera CPU, designet for å optimalisere både gjennomstrømning og hastighet for AI-agenter, samtidig som den opprettholder overlegen energieffektivitet.

Leverandører av AI-infrastruktur møter utfordringen med å støtte mange agenter samtidig uten å forlenge behandlingstiden, alt innen strenge effektbudsjetter. Vera løser disse begrensningene ved å levere de raskeste agenthastighetene sammen med høy kapasitet per watt, og konsoliderer oppgaver som vanligvis er delt mellom raske og tette x86-prosessorer i en enkelt løsning.

I sammenligninger i storskala datasentre som involverer 100 megawatt strøm rapporterer NVIDIA at Vera overgår de raskeste og mest energieffektive x86 CPUene. Spesifikt muliggjør Vera 1,6 ganger flere agenter per watt enn de raskeste x86 CPUene og oppnår dobbelt hastighet med bedre energieffektivitet sammenlignet med de mest energieffektive x86-modellene.

Tidlige bransjeadoptører har bekreftet Veras fordeler i produksjonslignende miljøer. Perplexity akselererte agentbaserte kodingsoppgaver med 1,5 ganger og planlegger bred distribuering av Vera. DeepInfra oppnådde opptil 2,2 ganger raskere agentorkestrering enn de beste x86-prosessorene. ClickHouse viste nær lineær skalering over 176 kjerner med Vera og nådde toppen av sine maskinvarebenchmarker. Andre selskaper som DuckLabs, Daytona og Modal rapporterte betydelige ytelsesøkninger i sandbox-operasjoner og gjennomstrømning sammenlignet med tradisjonelle x86-systemer.

NVIDIA Vera posisjonerer seg som en transformativ CPU for AI-fabrikker, som balanserer hastighet, agenttetthet og energieffektivitet for å møte kravene til moderne AI-arbeidsbelastninger. Flere detaljer om Vera og dens tekniske kapabiliteter er tilgjengelig via NVIDIAs offisielle kanaler.