NVIDIA rozszerza obliczenia poufne dzięki architekturze OpenShell, aby zwiększyć bezpieczeństwo wdrożeń agentów AI

Image: NVIDIA · Source

NVIDIA wprowadza referencyjną architekturę OpenShell i rozszerza ofertę Obliczeń Poufnych o Confidential Bare Metal, umożliwiając bezpieczne i skalowalne wdrażanie agentów AI na globalnej infrastrukturze oraz różnorodnym sprzęcie, wspierane przez czołowych partnerów chmurowych i korporacyjnych.

NVIDIA kontynuuje rozwój bezpieczeństwa i skalowalności wdrażania modeli AI, ogłaszając nową referencyjną architekturę OpenShell oraz rozszerzone możliwości Obliczeń Poufnych. Architektura OpenShell oferuje przedsiębiorstwom kompleksowe narzędzia do zarządzania, izolacji i zabezpieczeń, zaprojektowane w celu tworzenia, ograniczania, monitorowania i egzekwowania bezpiecznych agentów AI w centrach danych i systemach brzegowych.

Centralnym elementem OpenShell jest infrastruktura przemysłowa na pełnej skali stacku, która obejmuje systemy NVIDIA Vera Rubin do obciążeń inferencji modelu, procesory NVIDIA Vera zoptymalizowane do zarządzania agentami AI oraz jednostki przetwarzania danych NVIDIA BlueField-4 (DPU) z wbudowanym w krzem ramieniem egzekwowania NVIDIA Sentry. To sprzętowo-programowe połączenie umożliwia ciągłe monitorowanie zachowania agentów AI i szybkie egzekwowanie polityk na poziomie krzemu, co znacząco podnosi bezpieczeństwo poprzez kwarantannę agentów podejmujących nieautoryzowane działania. OpenShell jest kompatybilny z głównymi systemami operacyjnymi przedsiębiorstw i platformami kontenerowymi, takimi jak Canonical Ubuntu, Red Hat, Microsoft Windows oraz dystrybucje Kubernetes.

Ponadto NVIDIA rozszerza Obliczenia Poufne o nowy tryb wdrożenia o nazwie Confidential Bare Metal, który pozwala najlepszym budowniczym modeli uruchamiać wrażliwe obciążenia na dedykowanej infrastrukturze zewnętrznych dostawców, zachowując pełną kontrolę nad modelami i danymi. W przeciwieństwie do środowisk wirtualizowanych, Confidential Bare Metal obsługuje niestandardowe stosy oprogramowania i silną ochronę danych wymuszaną sprzętowo, umożliwiając bezpieczne działanie na różnorodnych infrastrukturach dostawców globalnie.

Obok Confidential Bare Metal NVIDIA oferuje Confidential Containers dla klastrów Kubernetes oraz Confidential Virtual Machines dla środowisk wirtualizowanych, co pozwala organizacjom wybrać model zabezpieczeń i wdrożenia najlepiej odpowiadający ich wymaganiom operacyjnym i ufności. Ta skalowalna architektura bezpieczeństwa obejmuje coraz większy wachlarz systemów NVIDIA, takich jak platformy Grace Blackwell i Rubin, oraz integruje się z NVIDIA DSX OS, służącym jako wzorzec dla dostawców chmurowych budujących fabryki AI.

Liderzy branży adoptują te technologie: Cohere planuje wykorzystać Confidential Bare Metal w Model Vault, aby chronić modele i dane w pamięci GPU oraz podczas połączeń między komponentami, a Google Cloud zastosuje Confidential Bare Metal na instancjach A4X Max z chipami NVIDIA GB300 NVL72, łącząc akcelerację GPU bez wirtualizacji z kryptograficzną ochroną danych.

Szerszy ekosystem NVIDIA obejmuje dostawców chmurowych, infrastruktury oraz producentów sprzętu korporacyjnego, takich jak CoreWeave, Microsoft Azure, Google Cloud, Dell Technologies, HPE, Lenovo i Cisco, wspierających wdrożenia Obliczeń Poufnych. Ponadto liczne firmy tworzące modele AI i zajmujące się cyberbezpieczeństwem współpracują, aby zabezpieczyć wdrożenie i zarządzanie agentami AI na platformie OpenShell.

Podsumowując, inicjatywy te podkreślają zaangażowanie NVIDIA w umożliwienie organizacjom bezpiecznego skalowania obciążeń AI na całym świecie dzięki zaawansowanym zabezpieczeniom sprzętowym, weryfikacji integralności platformy i zunifikowanym kontrolom programowym. Ta solidna baza bezpieczeństwa ma na celu budowanie zaufania do agentów AI działających w środowiskach produkcyjnych w sektorach od finansów i opieki zdrowotnej po handel detaliczny i telekomunikację.