NVIDIA utvider konfidensiell databehandling med OpenShell-arkitektur for å forbedre sikker distribusjon av AI-agenter

Bilde: NVIDIA · Kilde

NVIDIA lanserer OpenShell Reference Architecture og utvider Konfidensiell Databehandling med Confidential Bare Metal, som muliggjør sikker og skalerbar distribusjon av AI-agenter på tvers av globale infrastrukturer og variert maskinvare, støttet av ledende sky- og virksomhetspartnere.

NVIDIA fortsetter å utvikle sikkerheten og skalerbarheten for distribusjon av AI-modeller med sin nylig annonserte OpenShell Reference Architecture og utvidede tilbud innen konfidensiell databehandling. OpenShell Reference Architecture gir bedrifter omfattende styrings-, isolerings- og sikkerhetsverktøy designet for å bygge, inneholde, observere og håndheve sikre AI-agenter på tvers av datasentre og kantnoder.

Kjernen i OpenShell er en industriskala infrastruktur med full stack som inkluderer NVIDIA Vera Rubin-systemer for modellinferens, NVIDIA Vera-CPU-er optimalisert for AI-agentstyring, og NVIDIA BlueField-4 data processing units (DPU-er) som kjører den silikonbaserte håndhevingsrammeverket NVIDIA Sentry. Denne programvare-hardware-integrasjonen støtter kontinuerlig overvåking av AI-agenters atferd og rask håndheving av policy i silisium, noe som betydelig forbedrer sikkerheten ved å isolere agenter som forsøker uautoriserte handlinger. OpenShell er kompatibel med store bedriftsoperativsystemer og containerplattformer, inkludert Canonical Ubuntu, Red Hat, Microsoft Windows og Kubernetes-distribusjoner.

Videre utvider NVIDIA Confidential Computing med en ny distribusjonsmodus kalt Confidential Bare Metal, som tillater verdifulle modellbyggere å kjøre sensitive arbeidsbelastninger på dedikert tredjepartsinfrastruktur samtidig som de beholder full kontroll over sine modeller og data. I motsetning til virtualiserte miljøer støtter Confidential Bare Metal spesialtilpassede programvarestakker og sterk maskinvarerettet databeskyttelse, noe som muliggjør sikker drift på tvers av ulike leverandørinfrastrukturer globalt.

Sammen med Confidential Bare Metal tilbyr NVIDIA Confidential Containers for Kubernetes-klynger og Confidential Virtual Machines for virtualiserte miljøer, som lar organisasjoner velge sikkerhets- og distribusjonsmodeller som best passer deres operasjonelle og tillitsbehov. Denne skalerbare sikkerhetsarkitekturen strekker seg over et økende antall NVIDIA-systemer som Grace Blackwell og Rubin-plattformene, og integreres med NVIDIAs DSX OS, som fungerer som referanse for skyleverandører som bygger AI-fabrikker.

Bransjeledere tar i bruk disse teknologiene: Cohere planlegger å bruke Confidential Bare Metal innen sin Model Vault for å beskytte modeller og data i GPU-minnet og over interconnects, mens Google Cloud vil bruke Confidential Bare Metal på A4X Max-instanser drevet av NVIDIA GB300 NVL72-brikker, som kombinerer ikke-virtualisert GPU-akselerasjon med kryptografisk databeskyttelse.

NVIDIAs bredere økosystem inkluderer sky-, infrastrukturleverandører og produsenter av bedriftsmaskinvare som CoreWeave, Microsoft Azure, Google Cloud, Dell Technologies, HPE, Lenovo og Cisco som støtter distribusjoner av Confidential Computing. I tillegg samarbeider mange AI-modellutviklere og cybersikkerhetsselskaper for å sikre sikker distribusjon og styring av AI-agenter som bruker OpenShell-plattformen.

Totalt sett understreker disse initiativene NVIDIAs forpliktelse til å gjøre det mulig for organisasjoner å trygt skalere AI-arbeidsmengder over hele verden gjennom avansert maskinvarebasert sikkerhet, plattformintegritetsverifisering og enhetlig programvarekontroll. Dette robuste sikkerhetsfundamentet skal fremme tillit til AI-agenter som opererer i produksjonsmiljøer innen sektorer som finans, helsevesen, detaljhandel og telekommunikasjon.