NVIDIA annetab OpenShelli CNCF-ile ja käivitab Kubernetesi tööriistad AI infrastruktuuri tõhustamiseks

Pilt: NVIDIA · Allikas

NVIDIA süvendab oma avatud lähtekoodi panust, annetades autonoomsete tehisintellekti agentide turvamiseks mõeldud OpenShelli Cloud Native Computing Foundationile ning tutvustades Kubernetesi-põhiseid vahendeid AI tootmise skaleeritavuse ja turvalisuse parandamiseks.

NVIDIA on märkimisväärselt laiendanud oma pühendumust avatud lähtekoodile, esitades uusi panuseid ja tööriistu, mis on suunatud AI infrastruktuuri parandamisele suurtes mahus. KubeCon + CloudNativeConil, Kubernetesi ja pilvetehnoloogiate arendajate tippsündmusel, teatas NVIDIA, et annetab oma OpenShelli projekti Cloud Native Computing Foundationile (CNCF), mis kuulub Linuxi Sihtasutuse koosseisu. OpenShell on avatud lähtekoodiga jooksuaeg, mis on loodud autonoomsete tehisintellekti agentide turvamiseks ja haldamiseks, võimaldades deterministlikku kontrolli nende tegevuste üle ning integreerimist olemasolevate ettevõtte turvasüsteemidega.

OpenShelli annetamine CNCF-ile võimaldab laiema kogukonna kaasatust autonoomsete agentide turvameetmete edasiarendamisel, mis muutuvad AI töökoormustes üha olulisemaks. Linuxi Sihtasutuse tegevjuht Jim Zemlin tõi esile ühise infrastruktuuri tähtsuse tagamaks, et agentid töötaksid turvaliselt pilve- ja konteineripõhistes rakendustes.

Lisaks panustab NVIDIA Agent Substrate’i, Google’i algatatud CNCF Sandbox projekti raamistikku, mis võimaldab efektiivselt hallata pikaajalisi AI agentide töökoormusi Kubernetesis. See sisaldab puhkeolekus olevate agentide peatamist arvutusressursside vabastamiseks, võimaldades AI agentide skaleeritavat juurutamist.

GPU infrastruktuuri lihtsustamiseks AI jaoks tutvustas NVIDIA uusi komponente oma DSX AI Factory platvormil: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) ja NVIDIA Snapshot. NVKE ja NVKR pakuvad avatud lähtekoodi lahendusi Kubernetesi klastrite loomisel ja haldamisel GPU toe abil, olles praegu avalikus eelvaates. Need tööriistad on saanud toetust partneritelt, sealhulgas Mirantiselt ja SK Telecommunicatsioonilt, lubades laiemat ökosüsteemi integratsiooni.

NVIDIA Snapshot lahendab traditsiooniliselt inferentsi töökoormuste skaleerimisel esineva latentsuse probleemid, taastades kontrollpunkti baasil koopiad sekunditega ilma mudeli uuesti laadimiseta või soojendamiseta. Esimeste kasutajate hulka kuuluvad Crusoe ja Saturn Cloud, kes on Snapshoti edukalt testinud, vähendades käivitusaegu minutitest sekunditeni.

Need algatused tähistavad NVIDIA pingutusi kindlustada Kubernetes kui põhialust skaleeritavate ja turvaliste AI operatsioonide jaoks, võimaldades organisatsioonidel ehitada AI tehaseid suurema tõhususe ja autonoomsete agentide parema haldusega. Projekti rõhutavad AI ja pilvepõhiste tehnoloogiate kasvavat kokkupuutepunkti eesmärgiga toetada järgmise põlvkonna AI infrastruktuuri üle maailma.