NVIDIA lahjoittaa OpenShellin CNCF:lle ja julkaisee Kubernetes-työkaluja tekoälyinfrastruktuurin tehostamiseksi

Kuva: NVIDIA · Lähde

NVIDIA syventää avoimen lähdekoodin sitoutumistaan lahjoittamalla OpenShellin, autonomisten tekoälyagenttien suojaukseen tarkoitetun runtime-ohjelmiston, Cloud Native Computing Foundationille ja julkaisemalla Kubernetes-pohjaisia työkaluja tekoälytehtaan skaalautuvuuden ja turvallisuuden parantamiseksi.

NVIDIA on merkittävästi laajentanut sitoutumistaan avoimeen lähdekoodiin uusilla panostuksilla ja työkaluilla, joiden tavoitteena on parantaa tekoälyinfrastruktuuria laajassa mittakaavassa. KubeCon + CloudNativeCon -tapahtumassa, joka on merkittävä Kubernetes- ja pilvilaskennan kehittäjien kokoontuminen, NVIDIA ilmoitti lahjoittavansa OpenShell-projektinsa Cloud Native Computing Foundationille (CNCF), joka kuuluu Linux Foundationiin. OpenShell on avoimen lähdekoodin runtime, joka on suunniteltu turvaamaan ja hallinnoimaan autonomisia tekoälyagentteja, mahdollistaen niiden toiminnan deterministisen hallinnan ja integroinnin olemassa oleviin yritysturvajärjestelmiin.

OpenShellin lahjoitus CNCF:lle antaa laajemmalle yhteisölle mahdollisuuden kehittää ja parantaa autonomisten agenttien suojausmekanismeja, jotka ovat yhä keskeisempiä tekoälytyökuormissa. Linux Foundationin toimitusjohtaja Jim Zemlin korosti yhteisen infrastruktuurin merkitystä agenttien turvallisen toiminnan varmistamiseksi cloud-native-sovelluksissa.

Lisäksi NVIDIA osallistuu Agent Substrate -projektiin, jonka Google on käynnistänyt CNCF Sandbox -ympäristössä. Agent Substrate tarjoaa kehikon pitkäkestoisten tekoälyagenttien kuormien tehokkaaseen hallintaan Kubernetesissä. Tämä sisältää toimintojen, kuten käyttämättömien agenttien tauottamisen laskentaresurssien vapauttamiseksi, mahdollistaen tekoälyagenttien skaalautuvan käyttöönoton.

GPU-infrastruktuurin hallinnan yksinkertaistamiseksi tekoälyssä NVIDIA esitteli uusia komponentteja DSX AI Factory Platform -alustalleen: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) ja NVIDIA Snapshot. NVKE ja NVKR tarjoavat avoimen lähdekoodin ratkaisuja Kubernetes-klustereiden luomiseen ja hallintaan GPU-tuella; ne ovat tällä hetkellä julkisessa esikatselussa. Nämä työkalut ovat saaneet tukea yhteistyökumppaneilta, kuten Mirantis, SK Telecom ja muilta, mikä lupaa laajempaa ekosysteemin integraatiota.

NVIDIA Snapshot ratkaisee inferenssityökuormien skaalaamiseen liittyvän perinteisen viiveongelman palauttamalla checkpointatut replikaatit muutamassa sekunnissa ilman mallin uudelleenlatausta tai lämmitysvaihetta. Varhaiset kokeilijat, kuten Crusoe ja Saturn Cloud, ovat testanneet Snapshotia onnistuneesti ja saavuttaneet käynnistysajan lyhenemisen minuuteista sekunteihin.

Nämä aloitteet yhdessä merkitsevät NVIDIA:n pyrkimystä vakiinnuttaa Kubernetes skaalautuvan ja turvallisen tekoälytoiminnan perustana, mahdollistaen organisaatioille tekoälytehtaiden rakentamisen tehokkaammin ja parannetulla autonomisten agenttien hallinnalla. Projektit korostavat tekoälyn ja pilvilähteisten teknologioiden kasvavaa yhdistymistä, jonka tavoitteena on tukea maailmanlaajuisesti seuraavan sukupolven tekoälyinfrastruktuuria.