NVIDIA расширяет конфиденциальные вычисления с архитектурой OpenShell для улучшения безопасного развертывания AI-агентов

Image: NVIDIA · Source

NVIDIA представляет референсную архитектуру OpenShell и расширяет конфиденциальные вычисления с Confidential Bare Metal, позволяя безопасно и масштабируемо развертывать AI-агентов на глобальной инфраструктуре и разнообразном оборудовании при поддержке ведущих облачных и корпоративных партнеров.

NVIDIA продолжает совершенствовать безопасность и масштабируемость развертывания моделей искусственного интеллекта с помощью недавно анонсированной референсной архитектуры OpenShell и расширенных возможностей конфиденциальных вычислений. Архитектура OpenShell предоставляет предприятиям комплексные инструменты управления, изоляции и безопасности, предназначенные для создания, ограничения, наблюдения и обеспечения безопасной работы AI-агентов в центрах обработки данных и на периферийных системах.

В центре OpenShell находится промышленная инфраструктура полного стека, включающая системы NVIDIA Vera Rubin для задач инференса моделей, процессоры NVIDIA Vera, оптимизированные для управления AI-агентами, и устройства обработки данных NVIDIA BlueField-4 (DPU), запускающие встроенную в кремний систему обеспечения политики NVIDIA Sentry. Эта интеграция аппаратного и программного обеспечения поддерживает непрерывный мониторинг поведения AI-агентов и быстрое применение политики на уровне кремния, значительно повышая безопасность за счет изоляции агентов, пытающихся выполнить несанкционированные действия. OpenShell совместим с основными корпоративными операционными системами и платформами контейнеризации, включая Canonical Ubuntu, Red Hat, Microsoft Windows и дистрибутивы Kubernetes.

Кроме того, NVIDIA расширяет возможности конфиденциальных вычислений новым режимом развертывания под названием Confidential Bare Metal, позволяющим разработчикам ценных моделей запускать чувствительные рабочие нагрузки на выделенной инфраструктуре сторонних поставщиков, сохраняя полный контроль над своими моделями и данными. В отличие от виртуализированных сред, Confidential Bare Metal поддерживает собственные программные стеки и надежную защиту данных с аппаратным обеспечением, позволяя безопасно работать на различной инфраструктуре поставщиков по всему миру.

В дополнение к Confidential Bare Metal NVIDIA предлагает Confidential Containers для кластеров Kubernetes и Confidential Virtual Machines для виртуализированных сред, позволяя организациям выбирать модели безопасности и развертывания, которые лучше всего соответствуют их операционным и доверительным требованиям. Эта масштабируемая архитектура безопасности распространяется на расширяющийся перечень систем NVIDIA, включая платформы Grace Blackwell и Rubin, и интегрируется с NVIDIA DSX OS — эталоном для облачных провайдеров, строящих AI-фабрики.

Лидеры отрасли уже принимают эти технологии: Cohere планирует использовать Confidential Bare Metal в своем Model Vault для защиты моделей и данных в памяти GPU и на межсоединениях, а Google Cloud применит Confidential Bare Metal на инстансах A4X Max с чипами NVIDIA GB300 NVL72, сочетая невиртуализированное ускорение GPU с криптографической защитой данных.

Широкая экосистема NVIDIA включает облачных провайдеров, инфраструктурных операторов и производителей корпоративного оборудования, таких как CoreWeave, Microsoft Azure, Google Cloud, Dell Technologies, HPE, Lenovo и Cisco, поддерживающих внедрение конфиденциальных вычислений. Кроме того, многочисленные разработчики моделей AI и компании в области кибербезопасности сотрудничают, чтобы обеспечить безопасное развёртывание и управление AI-агентами с использованием платформы OpenShell.

В целом эти инициативы подчеркивают приверженность NVIDIA обеспечению возможности безопасного масштабирования AI-нагрузок во всем мире посредством передовых аппаратных средств безопасности, проверки целостности платформ и единой программной поддержки. Эта надежная база безопасности направлена на создание доверия к AI-агентам, работающим в производственной среде в различных отраслях, включая финансы, здравоохранение, розничную торговлю и телекоммуникации.