NVIDIA Przekazuje OpenShell do CNCF i Wprowadza Narzędzia Kubernetes Wspomagające Infrastrukturę AI

Image: NVIDIA · Source

NVIDIA pogłębia swoje zaangażowanie w open source, przekazując OpenShell, runtime zabezpieczający autonomiczne agentów AI, do Cloud Native Computing Foundation oraz prezentując narzędzia oparte na Kubernetes, które mają poprawić skalowalność i bezpieczeństwo infrastruktury AI.

NVIDIA znacząco poszerzyła swoje zobowiązania wobec open source, wprowadzając nowe wkłady i narzędzia mające na celu ulepszenie infrastruktury AI na dużą skalę. Podczas KubeCon + CloudNativeCon, prestiżowego wydarzenia dla deweloperów Kubernetes i technologii cloud-native, NVIDIA ogłosiła przekazanie swojego projektu OpenShell do Cloud Native Computing Foundation (CNCF), będącej częścią Linux Foundation. OpenShell to open source'owy runtime zaprojektowany w celu zabezpieczania i zarządzania autonomicznymi agentami AI, umożliwiający deterministyczną kontrolę nad ich działaniami oraz integrację z istniejącymi systemami bezpieczeństwa przedsiębiorstw.

Przekazanie OpenShell do CNCF pozwoli społeczności globalnej na współtworzenie i rozwój środków bezpieczeństwa dla autonomicznych agentów, które mają coraz większe znaczenie w obciążeniach AI. Jim Zemlin, CEO Linux Foundation, podkreślił wagę wspólnej infrastruktury dla zapewnienia bezpiecznej pracy agentów w aplikacjach cloud-native.

Ponadto NVIDIA przyczynia się do projektu Agent Substrate, inicjatywy Google w ramach CNCF Sandbox, który oferuje framework do efektywnego zarządzania długotrwałymi obciążeniami agentów AI na Kubernetes. Obejmuje to m.in. wstrzymywanie nieaktywnych agentów, co pozwala odzyskać zasoby obliczeniowe oraz wspiera skalowalne wdrażanie AI.

Aby jeszcze bardziej uprościć zarządzanie infrastrukturą GPU dla AI, NVIDIA wprowadziła nowe komponenty do swojej platformy DSX AI Factory: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) oraz NVIDIA Snapshot. NVKE i NVKR oferują open source'owe rozwiązania do tworzenia i zarządzania klastrami Kubernetes z obsługą GPU, obecnie dostępne w wersji publicznej zapoznawczej. Narzędzia te uzyskały wsparcie partnerów, takich jak Mirantis, SK Telecom i inni, obiecując szerszą integrację ekosystemową.

NVIDIA Snapshot rozwiązuje problem opóźnień tradycyjnie związanych ze skalowaniem obciążeń inferencyjnych, umożliwiając przywracanie replik z checkpointów w ciągu sekund bez konieczności ponownego ładowania czy rozgrzewki modelu. Wczesni użytkownicy, tacy jak Crusoe i Saturn Cloud, przetestowali Snapshot z sukcesem, skracając czas uruchamiania z minut do sekund.

Razem te inicjatywy podkreślają dążenie NVIDIA do ustanowienia Kubernetes jako podstawowej platformy dla skalowalnych, bezpiecznych operacji AI, pozwalając organizacjom budować fabryki AI z większą efektywnością i lepszą kontrolą nad autonomicznymi agentami. Projekty te ilustrują rosnące powiązanie między AI a technologiami cloud-native, mając na celu wsparcie kolejnej generacji infrastruktury AI na całym świecie.