NVIDIA Vera CPU Didina AI Agento Veikimą ir Energijos Efektyvumą

Vaizdas: NVIDIA · Šaltinis

NVIDIA Vera CPU pasižymi aukščiausiu AI agentų greičiu ir energijos efektyvumu, leidžiančiu apdoroti daugiau agentų vienam vatui nei populiariausios x86 CPU. Ankstyvieji naudotojai praneša apie iki 2,2 karto spartesnį AI darbo krūvių apdorojimą, remiant energijos apribotą AI infrastruktūrą.

AI agentai atlieka sudėtingas užduotis, tokias kaip informacijos paieška, duomenų bazių užklausos, programavimas ir veiksmų vykdymas, kurioms reikalingas sklandus GPU sprendimų ir CPU vykdymo koordinavimas. Suprasdama tai, NVIDIA pristatė Vera CPU, sukurtą optimizuoti tiek pralaidumą, tiek greitį AI agentams, tuo pačiu išlaikant aukštą energijos efektyvumą.

AI infrastruktūros teikėjams tenka iššūkis vienu metu palaikyti daugybę agentų nepadidinant apdorojimo laiko ir laikantis griežtų energijos suvartojimo limitų. Vera sprendžia šias problemas, užtikrindama greičiausią agentų veikimą ir didelį agentų skaičių vienam vatui, sujungdama užduotis, kurios dažniausiai buvo paskirstytos tarp greitų ir tankių x86 procesorių, į vieną sprendimą.

Didelio masto duomenų centrų palyginimuose, kur vartojama 100 megavatų galios, NVIDIA nurodo, kad Vera lenkia greičiausias ir energiją taupančias x86 CPU. Konkrečiai, Vera leidžia vienam vatui aptarnauti 1,6 karto daugiau agentų nei greičiausios x86 CPU ir du kartus spartina veikimą su aukštesniu energijos efektyvumu lyginant su energiją taupantčiais x86 modeliais.

Pradiniai pramonės naudotojai patvirtino Vera privalumus gamybos aplinkose. Perplexity pagreitino agentinio programavimo užduotis 1,5 karto ir planuoja plačiai diegti Vera. DeepInfra pasiekė iki 2,2 karto spartesnę agentų koordinaciją palyginti su geriausiais x86 procesoriais. ClickHouse parodė beveik tiesinį mastelio didėjimą naudojant 176 branduolius su Vera, pasiekdama savo aparatūros lyderystės viršūnę. Kitos įmonės, tokios kaip DuckLabs, Daytona ir Modal, raportavo žymius našumo pagerinimus smėlio dėžės operacijose ir pralaidume, lyginant su tradicinėmis x86 sistemomis.

NVIDIA Vera pozicionuojama kaip transformuojantis CPU AI gamykloms, derinantis greitį, agentų tankį ir energijos efektyvumą, kad atitiktų šiuolaikinių AI darbo krūvių reikalavimus. Daugiau informacijos apie Vera ir jos technines galimybes galima rasti oficialiuose NVIDIA kanaluose.