CoreWeave Lanza la Infraestructura NVIDIA Vera Rubin AI y la Plataforma Forge para IA Agentica Lista para Producción

Image: NVIDIA · Source

CoreWeave presenta los sistemas NVIDIA Vera Rubin NVL72 y el CPU Vera en su nube, mejorando las cargas de trabajo de agentes de IA con hasta 4.8 veces más rapidez en inferencia y más de 3 veces en el inicio de entornos sandbox. También lanza CoreWeave Forge, un entorno unificado para optimizar el entrenamiento y despliegue de modelos de IA.

CoreWeave, un proveedor de nube especializado en cargas de trabajo de IA, ha anunciado el despliegue de la infraestructura de IA de próxima generación de NVIDIA dentro de su plataforma en la nube, marcando un paso importante en el soporte a aplicaciones agenticas de IA listas para producción. Aprovechando casi una década de colaboración estrecha con NVIDIA, CoreWeave ofrece ahora a sus clientes el sistema NVIDIA Vera Rubin NVL72 equipado con red Spectrum-X de 102.4T Ethernet, proporcionando mejoras sustanciales en el rendimiento de inferencia.

Cognition, un laboratorio aplicado de IA conocido por su ingeniero de software Devin AI, es el primero en operar cargas de trabajo de producción en Vera Rubin NVL72. Los primeros benchmarks mostraron que la nueva infraestructura proporciona hasta 4.8 veces mayor rendimiento en el procesamiento de tokens para tareas de inferencia en ingeniería de software comparado con el sistema anterior GB200 NVL72 de NVIDIA. Esta mejora se traduce en generación de código en tiempo real más rápida y razonamiento multi-paso más sensible para el agente Devin, esencial para manejar cargas de trabajo complejas caracterizadas por contextos largos y alta concurrencia.

Además, CoreWeave está entre los primeros proveedores en la nube en introducir el CPU NVIDIA Vera, un procesador diseñado desde cero para cargas de trabajo de IA agentica. Su arquitectura soporta la ejecución de miles de entornos aislados simultáneamente, un requisito crítico para las necesidades de escalamiento en entrenamiento y evaluación de agentes. Las pruebas demostraron que la implementación de CPUs Vera de CoreWeave logró iniciar entornos sandbox de agentes más de tres veces más rápido, acelerando entornos aislados de aprendizaje por refuerzo y evaluación. Las racks de CPUs Vera ofrecen hasta 11,264 núcleos por rack, permitiendo más de 11,000 cargas de trabajo de agentes aislados simultáneas.

Complementando este despliegue de hardware está el lanzamiento de CoreWeave Forge, una plataforma integrada diseñada para cerrar el ciclo de desarrollo de IA unificando los flujos de trabajo de entrenamiento, evaluación y mejora continua. Forge combina herramientas como Weights & Biases, la experiencia de OpenPipe y el proyecto open-source marimo notebook para ofrecer un entorno abierto y conectado apto para diversos modelos, frameworks y nubes de IA. Las nuevas funciones incluyen CoreWeave ARIA para análisis de experimentos y iteración de código, Agent Lens para una mejor supervisión de agentes en producción y detección de fallos, y CoreWeave Sandboxes para ejecutar tareas aisladas de agentes IA de forma segura y eficiente.

CoreWeave Forge soporta fine-tuning supervisado sin servidor y aprendizaje por refuerzo, entrenando modelos supuestamente 1.4 veces más rápido y a un 40 % menos de coste comparado con configuraciones autogestionadas. Además, el framework de inferencia open-source Dynamo de NVIDIA impulsa los servicios de inferencia gestionados por CoreWeave y soporta RL Rollouts, lo que permite aprendizaje por refuerzo continuo sin necesidad de redeployment.

La plataforma conjunta de NVIDIA y CoreWeave ha atraído a una amplia variedad de usuarios desde startups a grandes empresas. Por ejemplo, Ennoble Care, un gran proveedor sanitario, usa la infraestructura de CoreWeave para inferencia clínica de IA que apoya la documentación y toma de decisiones en varios estados. CoreWeave también cuenta con clasificaciones destacadas en la industria, incluyendo estatus Platinum en varios benchmarks MLPerf, y sirve a nueve de los diez principales laboratorios de IA.

Estos avances posicionan a CoreWeave y NVIDIA como facilitadores clave para la transición de agentes de IA desde etapas experimentales a sistemas robustos de producción capaces de desarrollo de software, soporte clínico y otras tareas complejas del mundo real. Las nuevas ofertas fueron anunciadas y presentadas en CoreWeave Fully Connected, un evento tecnológico celebrado en San Francisco.