„NVIDIA“ pristato „Minerva“ platformą, skirtą pažangesniam AI gamyklų stebėjimui

Vaizdas: NVIDIA · Šaltinis

„NVIDIA“ pristato „Minerva“ – AIOps platformą, integruojančią telemetriją ir dirbtinį intelektą, leidžiančią proaktyviai valdyti AI gamyklas, gerinant našumą dėl problemų aptikimo ir sprendimo didelėse GPU infrastruktūrose.

„NVIDIA“ pristatė „Minerva“ – naują AIOps platformą, skirtą suteikti išsamų stebėjimą ir operatyvią įžvalgą didelio masto AI gamykloms. Šios AI gamyklos, apimančios plačius GPU tinklus, veikiančius per didelio greičio ryšius mokyti modelius ir aptarnauti programas, susiduria su iššūkiais dėl infrastruktūros sudėtingumo ir masto. Vienas gedimas, pavyzdžiui, perkaitęs GPU ar nusidėvėjęs NVMe diskas, gali reikšmingai sutrikdyti bendrą veikimą.

„Minerva“ sprendžia šiuos iššūkius konsoliduodama telemetrijos duomenis iš įvairių šaltinių – įskaitant „NVIDIA“ GPU, tinklo įrangą, saugyklas, tvarkytuvus ir AI darbo krūvius – į vieningą dinamišką žinių grafiką. Šis grafikas atvaizduoja ryšius tarp infrastruktūros elementų – GPU, SuperNIC, jungiklių, kabelių – ir jų vykdomų užduočių, taip leidžiant operatoriams sekti našumo problemas iki jų šaknų net ir aplinkoje, kurioje veikia šimtai tūkstančių GPU.

Platforma apdoroja milijardus duomenų taškų kiekvieną valandą, naudodama tiek prižiūrimus, tiek neprižiūrimus mašininio mokymosi modelius, kurie išmoksta normalią veiklą, identifikuoja naujus anomalijų atvejus, prognozuoja galimus gedimus ir koreliuoja susijusius įvykius pagal infrastruktūros topologiją. Apjungdama simptomus į sutelktas incidentų grupes su tikėtinomis priežastimis, „Minerva“ sumažina įspėjimų triukšmą ir supaprastina trikčių šalinimą.

„Minerva“ taip pat turi integruotą dirbtinio intelekto asistentą ir palaiko integraciją su išorinėmis agentinėmis DI priemonėmis, siūlydama natūralios kalbos sąsają operatoriams užduoti klausimus apie klasterio būklę ir gauti rekomendacijas dėl sprendimų. Tai leidžia žmonių komandoms išlaikyti įsitraukimą, tuo pačiu automatizuotoms sistemoms įgyvendinant pataisas per API.

Pagrindinės „Minerva“ naudos apima prailgintą vidutinį gedimų tarpinį laiką dėl ankstyvo problemų nustatymo, sutrumpintą taisymo laiką dėl tikslaus gedimų identifikavimo ir aiškesnes operatyvias įžvalgas dėl nereikšmingų duomenų filtravimo. Šie rezultatai padeda AI gamykloms maksimaliai išnaudoti GPU veikimo laiką ir pagerinti bendrus našumo rodiklius, tokius kaip efektyvumas, klasterio prieinamumas ir kuriamų tokenų kiekis.

Kelios partnerės įmonės, įskaitant IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ir Tesla, planuoja diegti „Minerva“. Aparatūros tiekėjai „Dell Technologies“, „Lenovo“ ir „Supermicro“ integruos „Minerva“ į savo AI infrastruktūros sprendimus.

„Minerva“ žymi svarbų žingsnį link proaktyvaus AI gamyklos valdymo, leidžiant operatoriams išlaikyti produktyvumą vis sudėtingesnėse AI vystymo aplinkose.