NVIDIA bidrar med OpenShell til CNCF og lanserer Kubernetes-verktøy for å styrke AI-infrastruktur

Bilde: NVIDIA · Kilde

NVIDIA utdyper sitt engasjement for åpen kildekode ved å donere OpenShell, en runtime som sikrer autonome AI-agenter, til Cloud Native Computing Foundation og introduserer Kubernetes-baserte verktøy for å forbedre skalerbarhet og sikkerhet i AI-fabrikker.

NVIDIA har betydelig utvidet sitt engasjement for åpen kildekode med nye bidrag og verktøy rettet mot å forbedre AI-infrastruktur i stor skala. På KubeCon + CloudNativeCon, et ledende arrangement for Kubernetes- og cloud-native-utviklere, kunngjorde NVIDIA at de donerer OpenShell-prosjektet sitt til Cloud Native Computing Foundation (CNCF), som er en del av Linux Foundation. OpenShell er en åpen kildekode-runtime designet for å sikre og styre autonome AI-agenter, og muliggjør deterministisk kontroll over deres aktiviteter og integrasjon med eksisterende virksomhetsikkerhetssystemer.

Donasjonen av OpenShell til CNCF lar det bredere fellesskapet bidra til å utvikle og forbedre sikkerhetstiltak for autonome agenter, som blir stadig viktigere i AI-arbeidsmengder. Linux Foundations administrerende direktør Jim Zemlin fremhevet viktigheten av delt infrastruktur for å sikre at agentene opererer sikkert i cloud-native applikasjoner.

I tillegg bidrar NVIDIA til Agent Substrate, et Google-initiativ under CNCF Sandbox som tilbyr et rammeverk for effektiv drift av langvarige AI-agentarbeidsbelastninger på Kubernetes. Dette inkluderer å sette inaktive agenter på pause for å frigjøre beregningsressurser, noe som muliggjør skalerbar distribusjon av AI-agenter.

For ytterligere å forenkle administrasjonen av GPU-infrastruktur for AI introduserte NVIDIA nye komponenter til sin DSX AI Factory Platform: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) og NVIDIA Snapshot. NVKE og NVKR gir åpen kildekode-løsninger for å opprette og administrere Kubernetes-klynger med GPU-støtte, som for øyeblikket er tilgjengelig i offentlig forhåndsvisning. Disse verktøyene har fått støtte fra partnere som Mirantis, SK Telecom og andre, og lover bredere økosystemintegrasjon.

NVIDIA Snapshot håndterer latensen som tradisjonelt er assosiert med skalering av inferensarbeidsbelastninger ved å gjenopprette checkpointede replikaer på sekunder uten behov for modellopplasting eller oppvarming. Tidlige brukere som Crusoe og Saturn Cloud har testet Snapshot med suksess, og oppnådd oppstartstider fra minutter til sekunder.

Samlet markerer disse initiativene NVIDIAs satsing på å befeste Kubernetes som grunnplattform for skalerbar, sikker AI-drift, slik at organisasjoner kan bygge AI-fabrikker med større effektivitet og forbedret styring av autonome agenter. Disse prosjektene understreker det økende skjæringspunktet mellom AI og cloud-native teknologier, med mål om å støtte neste generasjon AI-infrastruktur globalt.