NVIDIA bidrar med OpenShell till CNCF och lanserar Kubernetes-verktyg för att stärka AI-infrastruktur

Bild: NVIDIA · Källa

NVIDIA fördjupar sitt engagemang för öppen källkod genom att donera OpenShell, en runtime som säkrar autonoma AI-agenter, till Cloud Native Computing Foundation och lanserar Kubernetes-baserade verktyg för att förbättra skalbarheten och säkerheten i AI-fabriker.

NVIDIA har kraftigt utökat sitt engagemang för öppen källkod med nya bidrag och verktyg som syftar till att förbättra AI-infrastrukturen i stor skala. Vid KubeCon + CloudNativeCon, ett ledande evenemang för Kubernetes- och cloud-native-utvecklare, tillkännagav NVIDIA att man donerar sitt OpenShell-projekt till Cloud Native Computing Foundation (CNCF), som är en del av Linux Foundation. OpenShell är en öppen källkod-runtime utformad för att säkra och styra autonoma AI-agenter, vilket möjliggör deterministisk kontroll av deras aktiviteter och integration med befintliga företags säkerhetssystem.

Genom donationen av OpenShell till CNCF kan den bredare communityn hjälpa till att utveckla och förbättra säkerhetsåtgärder för autonoma agenter, som blir allt viktigare i AI-arbetsflöden. Linux Foundations VD Jim Zemlin betonade vikten av delad infrastruktur för att säkerställa att agenterna agerar säkert i cloud-native applikationer.

Dessutom bidrar NVIDIA till Agent Substrate, ett Google-initierat CNCF Sandbox-projekt som erbjuder ett ramverk för effektiv drift av långvariga AI-agentarbetsbelastningar på Kubernetes. Detta inkluderar att pausa inaktiva agenter för att återvinna beräkningsresurser, vilket möjliggör skalbar distribution av AI-agenter.

För att förenkla hanteringen av GPU-infrastruktur för AI introducerade NVIDIA nya komponenter till sin DSX AI Factory Platform: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) och NVIDIA Snapshot. NVKE och NVKR erbjuder öppen källkod-lösningar för att skapa och hantera Kubernetes-kluster med GPU-stöd och finns för närvarande tillgängliga i offentlig förhandsgranskning. Dessa verktyg har fått stöd från partners som Mirantis, SK Telecom och andra, vilket lovar bredare integration i ekosystemet.

NVIDIA Snapshot hanterar den latency som traditionellt förknippas med att skala inferensarbetsbelastningar genom att återställa checkpointade repliker på sekunder utan att kräva omladdning eller uppvärmning av modellen. Tidiga användare, såsom Crusoe och Saturn Cloud, har testat Snapshot framgångsrikt och uppnått starttider från minuter till sekunder.

Tillsammans markerar dessa initiativ NVIDIAs satsning på att etablera Kubernetes som den grundläggande plattformen för skalbara, säkra AI-operationer, vilket gör det möjligt för organisationer att bygga AI-fabriker med större effektivitet och förbättrad styrning av autonoma agenter. Dessa projekt understryker den växande korsningen mellan AI och cloud-native teknologier och syftar till att stödja nästa generations AI-infrastruktur globalt.