NVIDIA käivitab Minerva platvormi täiustatud tehisintellekti tehase jälgitavuse jaoks

Pilt: NVIDIA · Allikas

NVIDIA tutvustab Minervat, AIOps platvormi, mis ühendab telemeetria ja tehisintellekti, et proaktiivselt hallata tehisintellekti tehaseid, parandades tootlikkust probleemide tuvastamise ja lahendamise kaudu suures GPU infrastruktuuris.

NVIDIA on käivitanud Minerva, uue AIOps platvormi, mis on loodud pakkuma põhjalikku jälgitavust ja operatiivset ülevaadet suurte tehisintellekti tehaste jaoks. Need tehisintellekti tehased, kus ulatuslikud GPU võrgustikud töötavad kiiresti ühendatud süsteemides mudelite treenimiseks ja rakenduste teenindamiseks, seisavad silmitsi keerukusest ja infrastruktuuri mahust tingitud väljakutsetega. Üksainsa rikkuva komponendi, näiteks ülekuumeneva GPU või nõrkuva NVMe draivi ilmnemine, võib oluliselt pidurdada kogu süsteemi toimivust.

Minerva lahendab neid probleeme, koondades telemeetriaandmed erinevatest allikatest, sh NVIDIA GPU-dest, võrguseadmetest, salvestusruumist, ajastajatest ja tehisintellekti töökoormustest, üheks dünaamiliseks teadmiste graafiks. See graafikaardistab infrastruktuuri elementide - GPU-d, SuperNIC-e, lüliteid, kaableid - ja nende peal töötavate ülesannete vahelised seosed, võimaldades operaatoritel jälgida jõudlusprobleemide põhjuseni isegi sadade tuhandete GPU-de keskkonnas.

Platvorm töötleb iga tund miljardeid andmepunkte, kasutades nii järelevalvatud kui ka järelevalveta masinõppemudeleid, mis õpivad tavapärast töödeldud käitumist, tuvastavad uusi anomalju, ennustavad võimalikke tõrkeid ja seostavad seotud sündmusi infrastruktuuri topoloogia põhjal. Süntoomide koondamisega fookustatud intsidentideks koos tõenäoliste põhjustega vähendab Minerva valeteadete hulka ja lihtsustab tõrkeotsingut.

Minerval on ka sisseehitatud tehisintellekti assistent ning see toetab integreerimist väliste agentsete AI tööriistadega, pakkudes loomuliku keele liidest, mille kaudu operaatorid saavad küsida klastrite tervisest ning saada soovitusi parandusteks. See hoiab inimmeeskonnad kaasatuna, võimaldades samal ajal automaatikasüsteemidel parendusi rakendada API-de kaudu.

Minerva peamised eelised on riketevahelise tugevdusaja pikendamine varajase probleemide tuvastamise abil, parandusaegade kiirendamine täpse rikete tuvastamisega ning selgemad operatiivsed ülevaated ebaoluliste andmete filtreerimise kaudu. Need tulemused aitavad tehisintellekti tehastel maksimeerida GPU tööaega ja üldisi tootlikkuse näitajaid nagu goodput, klastri kättesaadavus ja tokenite tootmine.

Mõned partnerid, sealhulgas IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ja Tesla, plaanivad Minerva kasutuselevõttu. Riistvaratootjad Dell Technologies, Lenovo ja Supermicro integreerivad Minerva oma tehisintellekti infrastruktuuri pakkumistesse.

Minerva tähistab olulist sammu proaktiivse tehisintellekti tehase haldamise suunas, võimaldades operaatoritel säilitada tootlikkust üha keerulisemates tehisintellekti arenduskeskkondades.