NVIDIA paplašina konfidenciālo aprēķinu ar OpenShell arhitektūru drošākai AI aģentu izvietošanai

Attēls: NVIDIA · Avots

NVIDIA prezentē OpenShell Reference Architecture un paplašina konfidenciālo aprēķinu ar Confidential Bare Metal, ļaujot droši un mērogojami izvietot AI aģentus globālās infrastruktūrās un dažādās aparatūrās, ko atbalsta vadošie mākoņa un uzņēmumu partneri.

NVIDIA turpina uzlabot AI modeļu izvietošanas drošību un mērogojamību, izziņojot savu jauno OpenShell Reference Architecture un paplašinot konfidenciālā aprēķinu piedāvājumu. OpenShell Reference Architecture nodrošina uzņēmumiem visaptverošus pārvaldības, izolācijas un drošības rīkus, kas paredzēti, lai būvētu, ierobežotu, novērotu un īstenotu drošus AI aģentus datu centros un maldatu sistēmās.

OpenShell centrā atrodas pilna steka rūpnieciska mēroga infrastruktūra, kurā ietilpst NVIDIA Vera Rubin sistēmas modeļu inferenci darba slodzēm, NVIDIA Vera CPU, kas optimizēti AI aģentu pārvaldībai, un NVIDIA BlueField-4 datu apstrādes vienības (DPU), kas darbojas ar silīcija līmeņa izpildes ietvaru NVIDIA Sentry. Šī programmatūras un aparatūras integrācija atbalsta nepārtrauktu AI aģentu uzvedības uzraudzību un ātru silīcija līmeņa politikas īstenošanu, būtiski uzlabojot drošību, karantīnojot aģentus, kuri mēģina veikt neatļautas darbības. OpenShell sader ar galvenajām uzņēmumu operētājsistēmām un konteineru platformām, ieskaitot Canonical Ubuntu, Red Hat, Microsoft Windows un Kubernetes distribūcijas.

Turklāt NVIDIA Confidential Computing paplašinās ar jaunu izvietošanas režīmu, ko sauc par Confidential Bare Metal, ļaujot augstas vērtības modeļu veidotājiem palaist sensitīvas slodzes uz veltītas trešās puses infrastruktūras, saglabājot pilnīgu kontroli pār saviem modeļiem un datiem. Atšķirībā no virtualizētām vidēm, Confidential Bare Metal atbalsta pielāgotas programmatūras kaudzes un spēcīgu aparatūras nodrošinātu datu aizsardzību, ļaujot droši darboties dažādās pakalpojumu sniedzēju infrastruktūrās visā pasaulē.

Papildus Confidential Bare Metal, NVIDIA piedāvā Confidential Containers Kubernetes klasteriem un Confidential Virtual Machines virtualizētām vidēm, ļaujot organizācijām izvēlēties drošības un izvietošanas modeļus, kas vislabāk atbilst to darbības un uzticības prasībām. Šī mērogojamā drošības arhitektūra aptver arvien plašāku NVIDIA sistēmu klāstu, piemēram, Grace Blackwell un Rubin platformas, un integrējas ar NVIDIA DSX OS, kas kalpo kā atsauce mākoņu sniedzējiem AI rūpnīcu veidošanā.

Nozares līderi ievieš šīs tehnoloģijas: Cohere plāno izmantot Confidential Bare Metal savā Model Vault, lai aizsargātu modeļus un datus GPU atmiņā un savienojumos, savukārt Google Cloud izmantos Confidential Bare Metal A4X Max resurssistēmās, kurās darbojas NVIDIA GB300 NVL72 čipi, apvienojot nevirtualizētu GPU paātrinājumu ar kriptogrāfisku datu aizsardzību.

NVIDIA plašā ekosistēma ietver mākoņu, infrastruktūras nodrošinātājus un uzņēmumu aparatūras ražotājus, piemēram, CoreWeave, Microsoft Azure, Google Cloud, Dell Technologies, HPE, Lenovo un Cisco, kas atbalsta Confidential Computing izvietošanu. Turklāt daudzi AI modeļu izstrādātāji un kiberdrošības uzņēmumi sadarbojas, lai nodrošinātu AI aģentu drošu izvietošanu un pārvaldību, izmantojot OpenShell platformu.

Kopumā šie pasākumi uzsver NVIDIA apņemšanos ļaut organizācijām droši paplašināt AI darba slodzes visā pasaulē, izmantojot modernu aparatūras līmeņa drošību, platformas integritātes pārbaudi un vienotā programmatūras pārvaldību. Šis spēcīgais drošības pamats veicina uzticību AI aģentiem, kas darbojas ražošanas vidēs finansēs, veselības aprūpē, mazumtirdzniecībā un telekomunikācijās.