„NVIDIA“ perduoda „OpenShell“ CNCF organizacijai ir pristato „Kubernetes“ įrankius AI infrastruktūros stiprinimui

Vaizdas: NVIDIA · Šaltinis

„NVIDIA“ stiprina savo indėlį į atvirojo kodo projektus perduodama „OpenShell“ – autonominių AI agentų saugumui skirtą runtime'ą – Cloud Native Computing Foundation ir pristatydama „Kubernetes“ pagrindu veikiančius įrankius, skirtus pagerinti AI gamyklų mastelį ir saugumą.

„NVIDIA" žymiai išplėtė savo įsipareigojimą atvirajam kodui, prisidėdama naujais projektais ir įrankiais, skirtai AI infrastruktūros atnaujinimui dideliu mastu. Renginyje KubeCon + CloudNativeCon, kuris yra pagrindinis „Kubernetes“ ir debesų kompiuterijos kūrėjų susitikimas, „NVIDIA" paskelbė perduodanti savo „OpenShell“ projektą Cloud Native Computing Foundation (CNCF), kuri priklauso „Linux Foundation". „OpenShell" yra atviro kodo runtime'as, sukurtas autonominių AI agentų saugumui ir valdymui užtikrinti, leidžiantis deterministiškai kontroliuoti jų veiklą ir integruotis su esamomis įmonių saugumo sistemomis.

„OpenShell" perdavimas CNCF suteiks platesnei bendruomenei galimybę padėti tobulinti saugumo priemones autonominiams agentams, kurie tampa vis svarbesni AI darbo krūviuose. „Linux Foundation" vadovas Jim Zemlin pabrėžė bendros infrastruktūros svarbą užtikrinant agentų saugų veikimą cloud-native programose.

Be to, „NVIDIA" prisideda prie „Agent Substrate“, projekto, kurį inicijavo „Google“ ir kuris yra CNCF Sandbox dalis, siūlančio efektyvią AI agentų ilgalaikio veikimo darbo krūvių vykdymo Kubernetes karkasą. Tai apima galimybę sustabdyti nenaudojamus agentus ir atlaisvinti skaičiavimo išteklius, leidžiant skalę pasiekti diegiant AI agentus.

Siekiant dar labiau supaprastinti GPU infrastruktūros valdymą AI srityje, „NVIDIA" pristatė naujas komponentes savo DSX AI Factory platformai: „NVIDIA Kubernetes Engine“ (NVKE), „NVIDIA Kubernetes Recipes“ (NVKR) ir „NVIDIA Snapshot“. NVKE ir NVKR suteikia atviro kodo sprendimus Kubernetes klasterių su GPU palaikymu kūrimui ir valdymui, šiuo metu prieinamus viešame peržiūroje. Šie įrankiai sulaukė partnerių, tokių kaip „Mirantis“, „SK Telecom“ ir kitų, palaikymo, žadančio platesnę ekosistemos integraciją.

„NVIDIA Snapshot“ sprendžia tradiciškai ilgą delsimą skalaujant inferencijos darbo krūvius, atstatydamas checkpointing‘us kelis sekundes nereikalaujant modelio perkrovimo ar sušildymo. Ankstyvieji naudotojai, tokie kaip „Crusoe“ ir „Saturn Cloud“, sėkmingai išbandė „Snapshot“, sumažindami paleidimo laiką nuo minučių iki sekundžių.

Šios iniciatyvos kartu žymi „NVIDIA“ siekį įtvirtinti „Kubernetes“ kaip pagrindinę platformą skalabilioms ir saugioms AI operacijoms, leidžiančią organizacijoms kurti AI gamyklas efektyviau ir geriau valdant autonominius agentus. Šie projektai atspindi augančią AI ir cloud-native technologijų sankirtą, siekdami paremti naujos kartos AI infrastruktūrą visame pasaulyje.