NVIDIA lanza la plataforma Minerva para mejorar la observabilidad en fábricas de IA

Image: NVIDIA · Source

NVIDIA presenta Minerva, una plataforma AIOps que integra telemetría e IA para gestionar proactivamente fábricas de IA, mejorando la productividad mediante la detección y resolución de problemas en infraestructuras GPU a gran escala.

NVIDIA ha lanzado Minerva, una nueva plataforma AIOps diseñada para proporcionar una observabilidad integral y una visión operativa para fábricas de IA a gran escala. Estas fábricas de IA, que incluyen extensas redes de GPU trabajando a través de conexiones de alta velocidad para entrenar modelos y servir aplicaciones, enfrentan desafíos debido a la complejidad y escala de su infraestructura. Un solo componente con mal funcionamiento, como una GPU sobrecalentada o una unidad NVMe en degradación, puede afectar significativamente el rendimiento general.

Minerva aborda estos desafíos consolidando datos de telemetría provenientes de diversas fuentes, incluyendo GPUs de NVIDIA, equipos de red, almacenamiento, planificadores y cargas de trabajo de IA, en un único grafo dinámico de conocimiento. Este grafo mapea las relaciones entre los elementos de la infraestructura —GPUs, SuperNICs, switches, cables— y los trabajos que se ejecutan sobre ellos, permitiendo a los operadores rastrear problemas de rendimiento hasta sus causas raíz incluso en entornos con cientos de miles de GPUs.

La plataforma procesa miles de millones de puntos de datos cada hora utilizando modelos de aprendizaje automático supervisados y no supervisados que aprenden el comportamiento operativo normal, identifican anomalías novedosas, predicen fallas potenciales y correlacionan eventos relacionados basándose en la topología de la infraestructura. Al agregar síntomas en incidentes focalizados con causas probables, Minerva reduce el ruido de alertas y facilita la solución de problemas.

Minerva también cuenta con un asistente de IA nativo y soporta integración con herramientas externas de IA agente, ofreciendo una interfaz de lenguaje natural para que los operadores consulten la salud del clúster y reciban recomendaciones de mitigación. Esto mantiene al equipo humano involucrado mientras permite que los sistemas automatizados implementen las correcciones a través de API.

Los beneficios clave de Minerva incluyen extender el tiempo medio entre fallos mediante la detección temprana de problemas, acelerar los tiempos de reparación gracias a la identificación precisa de fallas y proporcionar una visión operativa más clara filtrando datos irrelevantes. Estos resultados ayudan a las fábricas de IA a maximizar el tiempo de actividad de las GPU y métricas globales como buen rendimiento, disponibilidad del clúster y producción de tokens.

Varios socios, incluidos IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI y Tesla, planean desplegar Minerva. Los proveedores de hardware Dell Technologies, Lenovo y Supermicro integrarán Minerva en sus ofertas de infraestructura para IA.

Minerva representa un avance significativo hacia la gestión proactiva de fábricas de IA, permitiendo a los operadores mantener la productividad en entornos de desarrollo de IA cada vez más complejos.