NVIDIA Vera CPU uzlabo AI aģentu veiktspēju un energoefektivitāti

Attēls: NVIDIA · Avots

NVIDIA Vera CPU nodrošina augstāko AI aģentu ātrumu un energoefektivitāti, ļaujot darbināt vairāk aģentu par vatu nekā vadošie x86 CPU. Agrīnie lietotāji ziņo par līdz 2,2 reizēm ātrāku AI darba slodžu apstrādi, atbalstot enerģijas ierobežotas AI infrastruktūras.

AI aģenti veic sarežģītus uzdevumus, piemēram, informācijas meklēšanu, datubāzu vaicājumus, kodēšanu un darbību izpildi, kas viss prasa nevainojamu sadarbību starp GPU spriešanu un CPU izpildi. To apzinoties, NVIDIA ir ieviesusi Vera CPU, kurš ir izstrādāts, lai optimizētu gan caurlaidspēju, gan ātrumu AI aģentiem, vienlaikus nodrošinot augstu energoefektivitāti.

AI infrastruktūras nodrošinātāji saskaras ar izaicinājumu atbalstīt daudzu aģentu vienlaicīgu darbību, nepagarinot apstrādes laiku, un ievērojot stingrus enerģijas budžetus. Vera risina šos ierobežojumus, nodrošinot ātrāko aģentu ātrumu kopā ar augstu jaudu par vatu, apvienojot uzdevumus, kas parasti tiek dalīti starp ātriem un blīviem x86 procesoriem vienā risinājumā.

Lielu datu centru salīdzinājumos, kuros izmantota 100 megavatu jauda, NVIDIA ziņo, ka Vera pārspēj ātrākos un energoefektīvākos x86 CPU. Konkrēti, Vera ļauj darbināt 1,6 reizes vairāk aģentu par vatu nekā ātrākie x86 CPU un sasniedz divreiz lielāku ātrumu ar labāku energoefektivitāti salīdzinājumā ar visenergoefektīvākajiem x86 modeļiem.

Agrīnie nozares lietotāji ir apstiprinājuši Vera priekšrocības ražošanas vidē līdzīgās situācijās. Perplexity paātrināja aģentu kodēšanas uzdevumus 1,5 reizes un plāno plaši ieviest Veru. DeepInfra sasniedza līdz pat 2,2 reizēm ātrāku aģentu organizēšanu nekā labākie x86 procesori. ClickHouse demonstrēja gandrīz lineāru mērogošanu ar 176 kodoliem uz Vera, sasniedzot savas aparatūras jomas līderpozīcijas. Citas kompānijas kā DuckLabs, Daytona un Modal ziņoja par būtisku veiktspējas pieaugumu smilškastes darbībās un caurlaidspējā salīdzinājumā ar tradicionālajām x86 sistēmām.

NVIDIA Vera pozicionējas kā pārveidojošs CPU AI rūpnīcām, līdzsvarojot ātrumu, aģentu blīvumu un energoefektivitāti, lai apmierinātu mūsdienu AI darba slodžu prasības. Plašāka informācija par Veru un tās tehniskajām iespējām pieejama NVIDIA oficiālajos kanālos.