NVIDIA Передаёт OpenShell в CNCF и Запускает Инструменты Kubernetes для Усиления AI Инфраструктуры

Image: NVIDIA · Source

NVIDIA углубляет своё участие в open source, передавая OpenShell — runtime для обеспечения безопасности автономных AI-агентов — в Cloud Native Computing Foundation и представляя инструменты на базе Kubernetes для улучшения масштабируемости и безопасности AI-инфраструктуры.

NVIDIA существенно расширила свою приверженность open source, представив новые вклады и инструменты, направленные на улучшение инфраструктуры AI в масштабах. На конференции KubeCon + CloudNativeCon, ведущем событии для разработчиков Kubernetes и cloud-native технологий, NVIDIA объявила о передаче своего проекта OpenShell в Cloud Native Computing Foundation (CNCF), входящую в Linux Foundation. OpenShell — это open source runtime, разработанный для защиты и управления автономными AI-агентами, обеспечивающий детерминированный контроль их действий и интеграцию с существующими корпоративными системами безопасности.

Передача OpenShell в CNCF позволит сообществу участвовать в развитии и совершенствовании мер безопасности для автономных агентов, которые становятся всё более важными в AI-нагрузках. Джим Землин, генеральный директор Linux Foundation, подчеркнул важность совместной инфраструктуры для обеспечения безопасной работы агентов в cloud-native приложениях.

Кроме того, NVIDIA вносит свой вклад в Agent Substrate — проект CNCF Sandbox, инициированный Google, представляющий фреймворк для эффективного управления длительно работающими AI-агентами на Kubernetes. Это включает приостановку неактивных агентов для освобождения вычислительных ресурсов, способствуя масштабируемому развертыванию AI-агентов.

Для дальнейшего упрощения управления инфраструктурой GPU для AI NVIDIA представила новые компоненты в своей платформе DSX AI Factory: NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR) и NVIDIA Snapshot. NVKE и NVKR предоставляют решения с открытым исходным кодом для создания и управления кластерами Kubernetes с поддержкой GPU, которые сейчас доступны в публичном превью. Эти инструменты получили поддержку от партнеров, включая Mirantis, SK Telecom и других, обещая более широкую интеграцию в экосистему.

NVIDIA Snapshot решает проблему задержек, традиционно связанных с масштабированием задач инференса, восстанавливая контрольные точки реплик за секунды без необходимости перезагрузки или прогрева модели. Ранние пользователи, такие как Crusoe и Saturn Cloud, успешно протестировали Snapshot, сократив время запуска с минут до секунд.

В совокупности эти инициативы отражают стремление NVIDIA закрепить Kubernetes как основную платформу для масштабируемых и безопасных AI-операций, позволяя организациям строить AI-фабрики с большей эффективностью и улучшенным управлением автономными агентами. Эти проекты подчеркивают растущее пересечение AI и cloud-native технологий, направленных на поддержку следующего поколения AI-инфраструктуры по всему миру.