NVIDIA laiendab konfidentsiaalset arvutust OpenShelli arhitektuuriga, et parandada turvalist AI-agentide juurutamist

Pilt: NVIDIA · Allikas

NVIDIA tutvustab OpenShell Reference Architecture'i ja laiendab konfidentsiaalset arvutust Confidential Bare Metal'iga, võimaldades turvalist ja skaleeritavat AI-agentide juurutamist üle maailma infrastruktuurides ja erinevatel riistvaradel, toetatuna juhtivate pilve- ja ettevõttepartnerite poolt.

NVIDIA jätkab AI mudelite juurutamise turvalisuse ja skaleeritavuse arendamist, kasutades värskelt välja kuulutatud OpenShell Reference Architecture'i ja laiendatud Confiential Computing lahendusi. OpenShell Reference Architecture pakub ettevõtetele põhjalikke haldus-, eraldus- ja turvavahendeid, mis on mõeldud ohutute AI-agentide ehitamiseks, piiramseks, jälgimiseks ja täitmiseks andmekeskustes ning servasüsteemides.

OpenShelli keskmes on täisstack tööstusmahuline infrastruktuur, mis hõlmab NVIDIA Vera Rubin süsteeme mudelite inferentsi töökoormuste jaoks, NVIDIA Vera protsessoreid, mis on optimeeritud AI-agentide haldamiseks, ning NVIDIA BlueField-4 andmetöötlusühikuid (DPU-sid), kus töötab NVDIA Sentry in-silicon täitmise raamistik. See tarkvara ja riistvara integratsioon toetab AI-agentide käitumise pidevat jälgimist ja kiiret in-silicon poliitika täitmist, parandades oluliselt turvalisust, karanteerides agendid, kes üritavad teha volitamata toiminguid. OpenShell ühildub peamiste ettevõtete operatsioonisüsteemide ja konteineriplatvormidega, sealhulgas Canonical Ubuntu, Red Hat, Microsoft Windows ja Kubernetes'i distributsioonidega.

Lisaks laieneb NVIDIA Confidential Computing uue juurutusviisiga, mida nimetatakse Confidential Bare Metal'iks, võimaldades kõrge väärtusega mudelite loojatel käitada tundlikke töökoormusi spetsiaalsel kolmanda osapoole infrastruktuuril, säilitades kogu kontrolli mudelite ja andmete üle. Erinevalt virtualiseeritud keskkondadest toetab Confidential Bare Metal kohandatud tarkvaralaadimisi ja tugevat riistvaral põhinevat andmekaitset, võimaldades turvalist tegevust mitmekesisel pakkujate infrastruktuuril üle maailma.

Confidential Bare Metal'i kõrval pakub NVIDIA Confidential Containers Kubernetes klastritele ja Confidential Virtual Machines virtualiseeritud keskkondadele, lubades organisatsioonidel valida turbe- ja juurutusmudeleid, mis kõige paremini vastavad nende operatiivsetele ja usalduspõhistele nõuetele. See skaleeritav turbearhitektuur ulatub NVIDIA platvormide nagu Grace Blackwell ja Rubin süsteemidesse ning ühildub NVIDIA DSX OS-iga, mis on pilvepakkujate AI tehase ehitamise referentsiks.

Tööstuse liidrid võtavad neid tehnoloogiaid omaks: Cohere plaanib kasutada Confidential Bare Metal'i oma Model Vault'is, et kaitsta mudeleid ja andmeid GPU mälus ja ühendustes, samal ajal kui Google Cloud kasutab Confidential Bare Metal'i A4X Max esemete puhul, mida juhivad NVIDIA GB300 NVL72 kiibid, ühendades mittevirtualiseeritud GPU kiirenduse krüptograafilise andmekaitsega.

NVIDIA ulatuslikum ökosüsteem hõlmab pilve- ja infrastruktuuripakkujaid ning ettevõtte riistvaratootjaid nagu CoreWeave, Microsoft Azure, Google Cloud, Dell Technologies, HPE, Lenovo ja Cisco, kes toetavad Confidential Computing juurutusi. Lisaks teevad paljud AI mudelite arendajad ja küberturbeettevõtted koostööd, et tagada AI-agentide turvaline juurutus ja juhendamine OpenShell platvormi abil.

Üldiselt rõhutavad need algatused NVIDIA pühendumust võimaldada organisatsioonidel ohutult skaleerida AI töökoormusi kogu maailmas läbi tipptasemel riistvaralise turvalisuse, platvormi terviklikkuse kontrolli ja ühtse tarkvarakontrolli. See tugev turvalisuse alus püüab edendada usaldust AI agentide tööle tootmiskeskkondades erinevates sektorites alates rahandusest ja tervishoiust kuni jaemüügi ja telekommunikatsioonini.