NVIDIA utvidgar konfidentiell databehandling med OpenShell-arkitektur för att förbättra säker distribution av AI-agenter

Bild: NVIDIA · Källa

NVIDIA lanserar OpenShell Reference Architecture och expanderar konfidentiell databehandling med Confidential Bare Metal, vilket möjliggör säker och skalbar distribution av AI-agenter över globala infrastrukturer och varierande hårdvara med stöd från ledande moln- och företagsaktörer.

NVIDIA fortsätter att driva säkerheten och skalbarheten för AI-modellsdistribution med sin nyligen tillkännagivna OpenShell Reference Architecture och utökade erbjudanden inom konfidentiell databehandling. OpenShell Reference Architecture ger företag omfattande verktyg för styrning, isolering och säkerhet, utformade för att bygga, innehålla, observera och upprätthålla säkra AI-agenter över datacenter och kantnoder.

Kärnan i OpenShell är en fullständig industriell infrastruktur i stor skala som inkluderar NVIDIA Vera Rubin-system för modellinferensbelastningar, NVIDIA Vera-CPU:er optimerade för hantering av AI-agenter, samt NVIDIA BlueField-4 databehandlingsenheter (DPUs) som kör den in-silikon-baserade verkställighetsramen NVIDIA Sentry. Denna mjukvaru-hårdvaruintegration stödjer kontinuerlig övervakning av AI-agenters beteende och snabb policyverkställighet i silikonen, vilket väsentligt förbättrar säkerheten genom att isolera agenter som försöker utföra obehöriga handlingar. OpenShell är kompatibelt med stora företagsoperativsystem och containerplattformar, inklusive Canonical Ubuntu, Red Hat, Microsoft Windows och Kubernetes-distributioner.

Dessutom expanderar NVIDIA Confidential Computing med ett nytt distributionsläge kallat Confidential Bare Metal, som möjliggör för värdefulla modellbyggare att köra känsliga arbetsbelastningar på dedikerad tredjepartsinfrastruktur samtidigt som de behåller full kontroll över sina modeller och data. Till skillnad från virtualiserade miljöer stöder Confidential Bare Metal skräddarsydda mjukvarustabbar och stark hårdvarubaserad dataskydd, vilket möjliggör säker drift över olika leverantörers infrastrukturer globalt.

Parallellt med Confidential Bare Metal erbjuder NVIDIA Confidential Containers för Kubernetes-kluster och Confidential Virtual Machines för virtualiserade miljöer, vilket tillåter organisationer att välja säkerhets- och distributionsmodeller som bäst passar deras drifts- och förtroendekrav. Denna skalbara säkerhetsarkitektur omfattar en växande mängd NVIDIA-system som Grace Blackwell och Rubin-plattformarna och integreras med NVIDIAs DSX OS, vilket fungerar som referens för molnleverantörer som bygger AI-fabriker.

Branschledare anammar dessa teknologier: Cohere planerar att använda Confidential Bare Metal inom sin Model Vault för att skydda modeller och data i GPU-minnet och över interkonnekt, medan Google Cloud kommer använda Confidential Bare Metal på A4X Max-instanser drivna av NVIDIA GB300 NVL72-chips, som kombinerar icke-virtualiserad GPU-acceleration med kryptografiskt dataskydd.

NVIDIAs bredare ekosystem inkluderar moln- och infrastrukturleverantörer samt tillverkare av företagsmaskinvara som CoreWeave, Microsoft Azure, Google Cloud, Dell Technologies, HPE, Lenovo och Cisco som stöder Confidential Computing-distributioner. Dessutom samarbetar många AI-modellutvecklare och cybersäkerhetsföretag för att säkerställa säker drift och styrning av AI-agenter med OpenShell-plattformen.

Sammanfattningsvis betonar dessa initiativ NVIDIAs engagemang för att möjliggöra för organisationer att säkert skala AI-arbetsbelastningar världen över genom avancerad hårdvarurotad säkerhet, verifiering av plattformsintegritet och enhetlig mjukvarustyrning. Denna robusta säkerhetsgrund ska främja förtroende för AI-agenter som verkar i produktionsmiljöer inom sektorer som finans, hälsovård, detaljhandel och telekommunikation.