NVIDIA trägt OpenShell zur CNCF bei und startet Kubernetes-Tools zur Stärkung der KI-Infrastruktur

Image: NVIDIA · Source

NVIDIA vertieft sein Engagement für Open Source durch die Spende von OpenShell, einer Laufzeitumgebung zur Sicherung autonomer KI-Agenten, an die Cloud Native Computing Foundation und stellt Kubernetes-basierte Tools vor, um die Skalierbarkeit und Sicherheit von KI-Fabriken zu verbessern.

NVIDIA hat sein Engagement für Open Source mit neuen Beiträgen und Tools zur Verbesserung der KI-Infrastruktur im großen Maßstab erheblich ausgeweitet. Auf der KubeCon + CloudNativeCon, einer führenden Veranstaltung für Kubernetes- und Cloud-Native-Entwickler, kündigte NVIDIA die Spende seines OpenShell-Projekts an die Cloud Native Computing Foundation (CNCF) an, die zur Linux Foundation gehört. OpenShell ist eine Open-Source-Laufzeitumgebung, die entwickelt wurde, um autonome KI-Agenten abzusichern und zu steuern, wodurch eine deterministische Kontrolle ihrer Aktivitäten sowie eine Integration mit bestehenden Sicherheitssystemen von Unternehmen ermöglicht wird.

Die Spende von OpenShell an die CNCF ermöglicht es der breiteren Gemeinschaft, Sicherheitsmaßnahmen für autonome Agenten weiterzuentwickeln und zu verbessern, welche in KI-Arbeitslasten zunehmend eine wichtige Rolle spielen. Jim Zemlin, CEO der Linux Foundation, hob die Bedeutung gemeinsamer Infrastruktur hervor, um einen sicheren Betrieb von Agenten in Cloud-Native-Anwendungen zu gewährleisten.

Zusätzlich trägt NVIDIA zu Agent Substrate bei, einem von Google initiierten CNCF Sandbox-Projekt, das einen Rahmen für den effizienten Betrieb lang laufender KI-Agenten-Arbeitslasten auf Kubernetes bietet. Dies umfasst das Pausieren inaktiver Agenten zur Rückgewinnung von Rechenressourcen und ermöglicht somit eine skalierbare Bereitstellung von KI-Agenten.

Um die Verwaltung der GPU-Infrastruktur für KI weiter zu vereinfachen, stellte NVIDIA neue Komponenten seiner DSX AI Factory Platform vor: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) und NVIDIA Snapshot. NVKE und NVKR bieten Open-Source-Lösungen zur Erstellung und Verwaltung von Kubernetes-Clustern mit GPU-Unterstützung und sind derzeit in öffentlicher Vorschau verfügbar. Diese Tools erhalten Unterstützung von Partnern wie Mirantis, SK Telecom und anderen, was eine breitere Integration im Ökosystem verspricht.

NVIDIA Snapshot adressiert die üblicherweise mit dem Skalieren von Inferenz-Arbeitslasten verbundene Latenz, indem es überprüfte Replikas innerhalb von Sekunden wiederherstellt, ohne dass ein Neuladen oder Aufwärmen des Modells erforderlich ist. Erste Anwender wie Crusoe und Saturn Cloud haben Snapshot erfolgreich getestet und Startzeiten von Minuten auf Sekunden reduziert.

Zusammen markieren diese Initiativen den Vorstoß von NVIDIA, Kubernetes als grundlegende Plattform für skalierbare und sichere KI-Operationen zu etablieren, wodurch Organisationen KI-Fabriken mit höherer Effizienz und verbesserter Governance autonomer Agenten bauen können. Diese Projekte unterstreichen die wachsende Schnittstelle von KI und cloud-nativen Technologien mit dem Ziel, die nächste Generation von KI-Infrastruktur weltweit zu unterstützen.