NVIDIA расширяет Agent Toolkit для создания корпоративных AI-агентов с использованием данных компании и обеспечением безопасности

Image: NVIDIA · Source

NVIDIA улучшает открытый Agent Toolkit новыми компонентами, позволяющими организациям создавать настраиваемых, безопасных AI-агентов, использующих данные компании для обоснованных действий, поддерживаемых OpenShell Reference Architecture для надежной безопасности и управления.

Компания NVIDIA объявила о значительном расширении своего открытого NVIDIA Agent Toolkit с целью более эффективного оснащения предприятий инструментами для создания настраиваемых, надежных AI-агентов на основе собственных данных компании. Обновленный набор инструментов интегрирует несколько компонентов — таких как новая платформа Agent Knowledge Foundation, открытые модели включая Nemotron Retriever и семейство Kumo, а также безопасные среды выполнения с OpenShell и чертежами NemoClaw — чтобы помочь разработчикам создавать агентов, способных выполнять реальные задачи в строгих рамках безопасности и управления.

Ключевым элементом улучшений стала NVIDIA Agent Knowledge Foundation, которая преобразует данные предприятия в пригодную для действий информацию без необходимости перемещения данных или изменения управления ими. Используя библиотеки CUDA-X и новую библиотеку Auto-Ontology, она семантически организует необработанные бизнес-данные, такие как клиенты, продукты и заказы, позволяя агентам точно понимать и использовать эту информацию. Включение моделей Nemotron Retriever и Kumo помогает агентам находить релевантные данные для ответов на запросы и прогнозирования результатов.

Для обеспечения безопасной работы агентов в заданных пределах NVIDIA предоставляет безопасную среду выполнения OpenShell. OpenShell создает усиленную границу, контролирующую доступ и действия агента, тогда как безопасные чертежи NemoClaw предлагают референсные проекты для разработки специализированных, оптимизированных агентов, интеллект которых может со временем постепенно улучшаться.

Инструментарий уже внедряется в крупных организациях. Подразделение цепочки поставок NVIDIA использует Agent Knowledge Foundation через Palantir Foundry для развертывания специализированных агентов для прогнозирования и оптимизации решений в цепочке поставок. Databricks, Snowflake, Amazon, SAP, ServiceNow и Zoom также применяют различные части инструментария для повышения точности поиска, предсказательных возможностей и корпоративных AI-сервисов.

В дополнение к набору инструментов NVIDIA представила OpenShell Reference Architecture — корпоративную инфраструктуру, объединяющую аппаратное и программное обеспечение, включая системы Vera Rubin, процессоры Vera CPU и DPU BlueField с системой безопасности NVIDIA Sentry. Эта архитектура внедряет политики безопасности на уровне кремния, постоянно контролирует поведение AI-агентов и в течение миллисекунд помещает в карантин агентов, пытающихся выполнить несанкционированные действия. OpenShell поддерживает различные операционные системы и платформы оркестрации контейнеров, что делает его востребованным в таких отраслях, как здравоохранение и телекоммуникации.

Лидеры отрасли, такие как AWS, Google Cloud, IBM, Meta, Microsoft, Cisco, CrowdStrike, а также ведущие банки BBVA и Santander сотрудничают с NVIDIA для внедрения и развития этой архитектуры, демонстрируя широкую приверженность безопасному и масштабируемому развертыванию AI-агентов.

Кроме того, NVIDIA предлагает Auto Ontology — открытую библиотеку, создающую семантический контекст на основе метаданных предприятия. Auto Ontology позволяет выполнять естественные языковые запросы к структурированным данным с проверкой, согласованием различных определений данных и предоставлением надежного бизнес-смысла для AI-агентов. Она поддерживает гибкие сценарии развертывания, включая Kubernetes и Docker, а также интегрирует аутентификацию и управление доступом на основе ролей.

В совокупности эти расширения и новые архитектуры от NVIDIA направлены на повышение полезности, надежности и безопасности AI-агентов для предприятий, готовящихся к масштабному внедрению AI. Соединяя продвинутую работу с данными, безопасные среды выполнения и комплексные инструменты управления, NVIDIA стремится помочь компаниям уверенно использовать потенциал AI.

Подробности и демонстрации данных возможностей были представлены на конференции NVIDIA GTC Berlin.