NVIDIA julkaisee Minerva-alustan AI-tehtaan valvonnan tehostamiseksi

Kuva: NVIDIA · Lähde

NVIDIA esittelee Minerva-alustan, AIOps-ratkaisun, joka yhdistää telemetrian ja tekoälyn AI-tehtaiden ennakoivaan hallintaan parantaen tuottavuutta havaitsemalla ja ratkaisemalla ongelmia laajoissa GPU-infrastruktuureissa.

NVIDIA on julkaissut Minerva-alustan, uuden AIOps-ratkaisun, joka tarjoaa kattavan näkyvyyden ja operatiivisen ymmärryksen laajojen AI-tehtaiden hallintaan. Nämä AI-tehtaat koostuvat laajoista GPU-verkostoista, jotka toimivat korkeanopeuksisilla yhteyksillä mallien kouluttamiseksi ja sovellusten palvelemiseksi. Infrastruktuurin monimutkaisuus ja laajuus tuovat haasteita, sillä yksittäinen viallinen osa, kuten ylikuumentuva GPU tai heikentyvä NVMe-asema, voi huomattavasti heikentää kokonaisjärjestelmän suorituskykyä.

Minerva ratkaisee nämä haasteet yhdistämällä telemetriadatan eri lähteistä, kuten NVIDIA GPU:t, verkkolaitteet, tallennusjärjestelmät, ajastimet ja AI-työkuormat, yhdeksi dynaamiseksi tietämysverkoksi. Tämä verkko kartoittaa suhteet infrastruktuurielementtien – kuten GPU:t, SuperNICit, kytkimet ja kaapelit – sekä ajettavien tehtävien välillä, mahdollistaen operaattoreiden jäljittää suorituskykyongelmia niiden juurisyihin jopa ympäristöissä, joissa on satojatuhansia GPU-yksiköitä.

Alusta käsittelee miljardeja datapisteitä tunnissa hyödyntäen sekä valvottuja että valvomattomia koneoppimismalleja, jotka oppivat normaalia toimintaa, tunnistavat uusia poikkeamia, ennustavat mahdollisia vikoja ja korreloivat tapahtumia infrastruktuurin topologian perusteella. Ryhmittelemällä oireita kohdistetuiksi incidenteiksi todennäköisine syineen Minerva vähentää hälytyspainetta ja tehostaa vianmääritystä.

Minerva sisältää myös natiivin tekoälyavustajan ja tukee integraatiota ulkoisten agenttipohjaisten tekoälytyökalujen kanssa, tarjoten luonnollisen kielen käyttöliittymän operaattoreille kysyä klusterin terveystilasta ja saada korjaussuosituksia. Tämä ylläpitää ihmistiimien osallistumista samalla, kun automaatiojärjestelmät voivat toteuttaa korjauksia API-rajapintojen kautta.

Minervan keskeisiä etuja ovat keskimääräisen vikojen välisen ajan pidentäminen ongelmien varhaisen havaitsemisen kautta, korjausaikojen nopeutuminen tarkan vianmäärityksen avulla sekä selkeämmät operatiiviset näkymät epäolennaisen datan suodatuksen ansiosta. Näillä saavutuksilla AI-tehtaat voivat maksimoida GPU-käytön käyttöajan ja parantaa kokonaistuottavuutta, kuten hyväntuottoisuutta, klusterin saatavuutta ja token-tuotantoa.

Useat kumppanit, kuten IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI ja Tesla, aikovat ottaa Minervan käyttöönsä. Laitetoimittajat Dell Technologies, Lenovo ja Supermicro integroivat Minervan AI-infrastruktuurituotteisiinsa.

Minerva edustaa merkittävää edistysaskelta kohti ennakoivaa AI-tehtaiden hallintaa, mahdollistaen operaattoreille tuottavuuden ylläpitämisen yhä monimutkaisemmissa AI-kehitysympäristöissä.