Procesor NVIDIA Vera zwiększa wydajność agentów AI i efektywność energetyczną

Image: NVIDIA · Source

Procesor NVIDIA Vera zapewnia najwyższą prędkość agentów AI i efektywność energetyczną, umożliwiając więcej agentów na wat niż czołowe procesory x86. Wczesni użytkownicy raportują do 2,2 razy szybsze przetwarzanie w zadaniach AI, wspierając infrastrukturę AI o ograniczonej mocy.

Agentów AI realizują złożone zadania, takie jak wyszukiwanie informacji, zapytania do baz danych, kodowanie oraz wykonywanie działań, co wymaga płynnej koordynacji między procesowaniem GPU a wykonaniem CPU. W odpowiedzi na to NVIDIA wprowadziła procesor Vera, zaprojektowany do optymalizacji przepustowości i szybkości agentów AI, przy zachowaniu wysokiej efektywności energetycznej.

Dostawcy infrastruktury AI stają przed wyzwaniem wsparcia wielu agentów jednocześnie, nie wydłużając czasu przetwarzania i pozostając w ramach surowych limitów mocy. Vera odpowiada na te ograniczenia, oferując najszybszą prędkość działania agentów przy wysokiej wydajności na wat, konsolidując zadania zwykle rozdzielane między szybkie i gęste procesory x86 w jednym rozwiązaniu.

W porównaniach dużych centrów danych przy mocy 100 megawatów, NVIDIA informuje, że Vera przewyższa najszybsze i najbardziej energooszczędne procesory x86. Konkretne wyniki to 1,6 razy więcej agentów na wat niż najszybsze procesory x86 oraz dwukrotnie wyższa szybkość przy lepszej efektywności energetycznej w porównaniu z najbardziej energooszczędnymi modelami x86.

Wczesni użytkownicy branżowi potwierdzili korzyści Vera w środowiskach przypominających produkcyjne. Perplexity przyspieszyło agentowe zadania kodowania 1,5-krotnie i planuje szerokie wdrożenie Vera. DeepInfra osiągnęło do 2,2 razy szybszą orkiestrację agentów niż najlepsze procesory x86. ClickHouse wykazał niemal liniową skalowalność na 176 rdzeniach z procesorem Vera, osiągając szczyt wyników sprzętowych. Inne firmy, takie jak DuckLabs, Daytona i Modal, zgłosiły znaczące wzrosty wydajności w operacjach testowych i przepustowości w porównaniu z tradycyjnymi systemami x86.

Procesor NVIDIA Vera pozycjonuje się jako przełomowy CPU dla fabryk AI, równoważąc szybkość, gęstość agentów i efektywność energetyczną, aby sprostać wymaganiom współczesnych obciążeń AI. Więcej informacji o Vera i jej możliwościach technicznych dostępnych jest w oficjalnych kanałach NVIDIA.