La CPU Vera de NVIDIA mejora el rendimiento y la eficiencia energética de los agentes de IA

Image: NVIDIA · Source

La CPU Vera de NVIDIA ofrece la máxima velocidad y eficiencia energética para agentes de IA, permitiendo más agentes por vatio que las principales CPUs x86. Los primeros usuarios reportan hasta 2.2 veces más rapidez en procesamientos de IA, ideal para infraestructuras de IA con limitaciones de energía.

Los agentes de IA realizan tareas complejas como buscar información, consultar bases de datos, programar y ejecutar acciones, todo ello requiriendo una coordinación impecable entre el razonamiento GPU y la ejecución CPU. Con esto en mente, NVIDIA ha presentado la CPU Vera, diseñada para optimizar tanto el rendimiento como la velocidad de los agentes de IA, manteniendo una eficiencia energética superior.

Los proveedores de infraestructura de IA enfrentan el reto de soportar numerosos agentes simultáneamente sin aumentar el tiempo de procesamiento, todo ello dentro de estrictos límites de energía. Vera aborda estas limitaciones ofreciendo las velocidades de agente más rápidas junto con una alta capacidad por vatio, consolidando tareas que habitualmente se dividen entre procesadores x86 rápidos y densos en una única solución.

En comparaciones a gran escala de centros de datos que involucran 100 megavatios de potencia, NVIDIA reporta que Vera supera a las CPUs x86 más rápidas y energéticamente eficientes. En concreto, Vera permite 1.6 veces más agentes por vatio que las CPUs x86 más rápidas y logra el doble de velocidad con mayor eficiencia energética comparado con los modelos x86 más eficientes.

Los primeros adoptantes en la industria han confirmado los beneficios de Vera en entornos de producción. Perplexity aceleró tareas de codificación agente en 1.5 veces y planea desplegar Vera ampliamente. DeepInfra logró hasta 2.2 veces más rapidez en la orquestación de agentes que los mejores procesadores x86. ClickHouse demostró una escalabilidad casi lineal en 176 núcleos con Vera, alcanzando la cima en sus pruebas de hardware. Otras compañías como DuckLabs, Daytona y Modal reportaron aumentos significativos en el rendimiento y el rendimiento en operaciones sandbox comparado con sistemas tradicionales x86.

NVIDIA Vera se presenta como una CPU transformadora para fábricas de IA, equilibrando velocidad, densidad de agentes y eficiencia energética para atender las demandas de cargas de trabajo modernas de IA. Más detalles sobre Vera y sus capacidades técnicas están disponibles a través de los canales oficiales de NVIDIA.