NVIDIA atsāk Minerva platformu uzlabotai AI rūpnīcu novērošanai

Attēls: NVIDIA · Avots

NVIDIA ievieš Minerva, AIOps platformu, kas integrē telemetriju un mākslīgo intelektu, lai proaktīvi pārvaldītu AI rūpnīcas, uzlabojot produktivitāti, atklājot un novēršot problēmas lielos GPU infrastruktūrās.

NVIDIA ir uzsākusi Minerva, jaunu AIOps platformu, kas paredzēta, lai nodrošinātu visaptverošu novērošanu un operacionālu ieskatu lielā mēroga AI rūpnīcām. Šīs AI rūpnīcas, kurās darbojas plaši GPU tīkli ātru savienojumu vidē, lai apmācītu modeļus un apkalpotu lietojumprogrammas, saskaras ar izaicinājumiem infrastruktūras sarežģītības un apjoma dēļ. Pat viens nepareizi darbojošs komponents, piemēram, pārkarstošs GPU vai dilstošs NVMe disks, var būtiski kavēt kopējo veiktspēju.

Minerva risina šos izaicinājumus, konsolidējot telemetrijas datus no dažādiem avotiem, tostarp NVIDIA GPU, tīkla aprīkojuma, glabāšanas, plānotājiem un AI darba slodzēm, vienā dinamiskā zināšanu grafikā. Šīs grafikas kartē attiecības starp infrastruktūras elementiem — GPU, SuperNIC, slēdžiem, kabeļiem — un tajos esošajiem uzdevumiem, ļaujot operatoriem izsekot veiktspējas problēmas līdz to saknei pat vidēs ar simtiem tūkstošu GPU.

Platforma apstrādā miljardus datu punktu katru stundu, izmantojot gan uzraudzītus, gan neuzraudzītus mašīnmācīšanās modeļus, kas apgūst normālu darbības uzvedību, identificē jaunus anomalijas, prognozē iespējamas kļūmes un korelē saistītos notikumus, balstoties uz infrastruktūras topoloģiju. Apkopojot simptomus fokalizētos incidentos ar iespējamiem cēloņiem, Minerva samazina trauksmju signālu troksni un vienkāršo problēmu novēršanu.

Minerva ir aprīkota arī ar dzimtās AI asistentu un atbalsta integrāciju ar ārējām agentu AI rīkiem, piedāvājot dabiskās valodas saskarni, kurā operatori var pieprasīt informāciju par klastera veselību un saņemt labošanas ieteikumus. Tas notur cilvēku komandas iesaistītas, vienlaikus ļaujot automatizācijas sistēmām īstenot labojumus caur API.

Galvenās Minerva priekšrocības ir pagarināta vidējā laika posma starp kļūmēm, pateicoties agrīnai problēmu atklāšanai, paātrināti remontdarbi, precīzi identificējot bojājumus, un skaidrāka darbības pārskats, filtrējot nevajadzīgos datus. Šie rezultāti palīdz AI rūpnīcām maksimizēt GPU darbības laiku un kopējās ražības rādītājus, piemēram, goodput, klastera pieejamību un tokenu ražošanu.

Vairāki partneri, tostarp IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI un Tesla, plāno ieviest Minerva. Aparatūras piegādātāji Dell Technologies, Lenovo un Supermicro integrēs Minerva savās AI infrastruktūras piedāvājumos.

Minerva pārstāv nozīmīgu soli uz proaktīvu AI rūpnīcu pārvaldību, ļaujot operatoriem saglabāt produktivitāti arvien sarežģītākās AI izstrādes vidēs.