Informática

NVIDIA contribuye con OpenShell a CNCF y lanza herramientas de Kubernetes para potenciar la infraestructura de IA

Tendela Briefing ·
7 lecturas · 0 Comentarios
NVIDIA contribuye con OpenShell a CNCF y lanza herramientas de Kubernetes para potenciar la infraestructura de IA

Image: NVIDIA · Source

NVIDIA profundiza su compromiso con el código abierto al donar OpenShell, un runtime que asegura agentes autónomos de IA, a la Cloud Native Computing Foundation, y presenta herramientas basadas en Kubernetes para mejorar la escalabilidad y seguridad de fábricas de IA.

NVIDIA ha ampliado significativamente su compromiso con el código abierto mediante nuevas contribuciones y herramientas destinadas a mejorar la infraestructura de IA a gran escala. En KubeCon + CloudNativeCon, un evento destacado para desarrolladores de Kubernetes y tecnologías nativas en la nube, NVIDIA anunció la donación de su proyecto OpenShell a la Cloud Native Computing Foundation (CNCF), que forma parte de la Linux Foundation. OpenShell es un runtime de código abierto diseñado para asegurar y gobernar agentes autónomos de IA, permitiendo un control determinista de sus actividades e integración con sistemas empresariales de seguridad existentes.

La donación de OpenShell a CNCF permitirá que la comunidad ampliada contribuya a evolucionar y mejorar las medidas de seguridad para agentes autónomos, cada vez más críticos en cargas de trabajo de IA. Jim Zemlin, CEO de la Linux Foundation, destacó la importancia de la infraestructura compartida para asegurar el funcionamiento seguro de agentes en aplicaciones nativas en la nube.

Además, NVIDIA colabora con Agent Substrate, un proyecto del CNCF Sandbox iniciado por Google que ofrece un marco para operar cargas de trabajo de agentes de IA de larga duración en Kubernetes de manera eficiente. Esto incluye pausar agentes inactivos para recuperar recursos de cómputo, facilitando así el despliegue escalable de agentes de IA.

Para simplificar aún más la gestión de infraestructura GPU para IA, NVIDIA presentó nuevos componentes en su plataforma DSX AI Factory: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) y NVIDIA Snapshot. NVKE y NVKR proporcionan soluciones de código abierto para crear y gestionar clústeres de Kubernetes con soporte para GPU, actualmente disponibles en vista previa pública. Estas herramientas cuentan con el respaldo de socios como Mirantis, SK Telecom y otros, prometiendo una integración más amplia del ecosistema.

NVIDIA Snapshot aborda la latencia tradicional en la escalabilidad de cargas de inferencia restaurando réplicas con puntos de control en segundos sin requerir la recarga o calentamiento del modelo. Adoptantes tempranos, como Crusoe y Saturn Cloud, han probado Snapshot con éxito, logrando reducciones en el tiempo de inicio de minutos a segundos.

En conjunto, estas iniciativas marcan el impulso de NVIDIA para consolidar Kubernetes como la plataforma fundamental para operaciones de IA escalables y seguras, permitiendo a las organizaciones construir fábricas de IA con mayor eficiencia y gobernanza mejorada sobre agentes autónomos. Estos proyectos subrayan la creciente intersección entre IA y tecnologías nativas en la nube, con el objetivo de apoyar la próxima generación de infraestructura de IA a nivel mundial.

The NVIDIA DSX AI Factory Platform software stack, from GPU infrastructure and Kubernetes management to workload orchestration and model serving.
The NVIDIA DSX AI Factory Platform software stack, from GPU infrastructure and Kubernetes management to workload orchestration and model serving. · Fuente ↗

Fuentes e informes originales

Comentarios (0)

Aún no hay comentarios.

Escribe un comentario

Los comentarios se publican tras moderación. Tu nombre y comentario serán públicos. Cuenta