NVIDIA ziedo OpenShell CNCF un uzsāk Kubernetes rīkus, lai uzlabotu AI infrastruktūru

Attēls: NVIDIA · Avots

NVIDIA paplašina savu iesaisti atvērtā koda projektos, ziedojot autonomo AI aģentu drošināšanas rīku OpenShell Cloud Native Computing Foundation, kā arī prezentējot Kubernetes bāzētus rīkus AI ražošanas mērogojamības un drošības uzlabošanai.

NVIDIA būtiski paplašinājusi savu apņemšanos atvērtā koda jomā, ieviešot jaunas ieguldījumus un rīkus, kas paredzēti AI infrastruktūras uzlabošanai lielā mērogā. KubeCon + CloudNativeCon, vadošajā Kubernetes un mākoņdatoru izstrādātāju pasākumā, NVIDIA paziņoja, ka ziedo savu OpenShell projektu Cloud Native Computing Foundation (CNCF), kas ir daļa no Linux Foundation. OpenShell ir atvērtā koda izpildlaiks, kas paredzēts autonomo AI aģentu drošināšanai un pārvaldībai, nodrošinot deterministisku to darbību kontroli un integrāciju ar esošām uzņēmumu drošības sistēmām.

OpenShell ziedošana CNCF sniegs plašākai kopienai iespēju attīstīt un uzlabot drošības pasākumus autonomiem aģentiem, kas arvien svarīgāki kļūst AI darba slodzēs. Linux Foundation izpilddirektors Džims Zemlins uzsvēra kopīgas infrastruktūras nozīmi, lai nodrošinātu aģentu drošu darbību mākoņnatīvās lietotnēs.

Turklāt NVIDIA iegulda Agent Substrate, Google iniciētajā CNCF Sandbox projektā, kas piedāvā ietvaru ilgstošu AI aģentu darba slodžu efektīvai pārvaldībai Kubernetes vidē. Tas ietver neaktīvo aģentu pauzēšanu, lai atgūtu skaitļošanas resursus, tādējādi veicinot AI aģentu mērogojamu izvietošanu.

Lai vēl vairāk atvieglotu GPU infrastruktūras pārvaldību AI vajadzībām, NVIDIA ieviesa jaunus komponentus savā DSX AI Factory platformā: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) un NVIDIA Snapshot. NVKE un NVKR nodrošina atvērtā koda risinājumus Kubernetes klasteru izveidei un pārvaldībai ar GPU atbalstu, šobrīd pieejami publiskā priekšskatījumā. Šie rīki ir guvuši atbalstu no partneriem, tostarp Mirantis un SK Telecom, solot plašāku ekosistēmas integrāciju.

NVIDIA Snapshot risina latentumu, kas tradicionāli rodas inferenču darba slodžu mērogošanas laikā, atjaunojot kontrolpunktā saglabātas kopijas sekundēs bez nepieciešamības pārstartēt modeli vai veikt tā iesildīšanu. Agrīnie lietotāji, piemēram, Crusoe un Saturn Cloud, veiksmīgi pārbaudījuši Snapshot, samazinot palaišanas laiku no minūtēm uz sekundēm.

Kopumā šīs iniciatīvas iezīmē NVIDIA centienus nostiprināt Kubernetes kā pamatplatformu mērogojamu un drošu AI operāciju nodrošināšanai, ļaujot organizācijām veidot AI rūpnīcas ar lielāku efektivitāti un uzlabotu autonomo aģentu pārvaldību. Šie projekti uzsvērti parāda AI un mākoņnatīvo tehnoloģiju pieaugošo mijiedarbību, cenšoties atbalstīt nākamās paaudzes AI infrastruktūru visā pasaulē.