NVIDIA Erweitert Agent Toolkit zur Stärkung von Unternehmens-KI-Agenten mit Unternehmensdaten und Sicherheit

Image: NVIDIA · Source

NVIDIA erweitert sein Open-Source-Agent Toolkit um neue Komponenten, mit denen Unternehmen kundenspezifische, sichere KI-Agenten erstellen können, die Unternehmensdaten für fundierte Entscheidungen nutzen – unterstützt durch die OpenShell-Referenzarchitektur für robuste Sicherheit und Governance.

NVIDIA hat bedeutende Erweiterungen seines Open-Source NVIDIA Agent Toolkit angekündigt, um Unternehmen besser in die Lage zu versetzen, maßgeschneiderte, vertrauenswürdige KI-Agenten zu entwickeln, die auf proprietären Daten basieren. Das aktualisierte Toolkit integriert mehrere Komponenten – darunter die neue Agent Knowledge Foundation, offene Modelle wie Nemotron Retriever und die Kumo-Familie sowie sichere Laufzeitumgebungen mit den OpenShell- und NemoClaw-Vorlagen – um Entwicklern zu helfen, Agenten zu erstellen, die echte Arbeit innerhalb strenger Sicherheits- und Governance-Rahmen ausführen können.

Im Zentrum der Erweiterung steht die NVIDIA Agent Knowledge Foundation, die Unternehmensdaten in verwertbare Intelligenz umwandelt, ohne eine Datenverlagerung oder Änderungen an der Governance zu erzwingen. Angetrieben von CUDA-X-Bibliotheken und der neuen Auto-Ontology-Bibliothek organisiert sie Rohgeschäftsdaten wie Kunden, Produkte und Bestellungen semantisch, sodass Agenten diese Informationen präzise verstehen und nutzen können. Die Integration von NVIDIAs offenen Modellen Nemotron Retriever und Kumo unterstützt die Agenten dabei, relevante Daten zu finden, um Anfragen zu beantworten und Ergebnisse vorherzusagen.

Um sicherzustellen, dass diese Agenten sicher und innerhalb definierter Grenzen arbeiten, stellt NVIDIA die sichere Laufzeitumgebung OpenShell bereit. OpenShell schafft eine gehärtete Grenze, die den Zugang und die Aktionen der Agenten kontrolliert, während die sicheren NemoClaw-Blueprints Referenzdesigns bieten, um spezialisierte, optimierte Agenten zu entwickeln, deren Intelligenz sich im Lauf der Zeit verbessern kann.

Die Annahme des Toolkits erfolgt bereits bei großen Organisationen. NVIDIAs Supply-Chain-Division nutzt die Agent Knowledge Foundation durch Palantir Foundry, um spezialisierte Agenten für Vorhersagen in der Lieferkette und Optimierung der Entscheidungsfindung einzusetzen. Databricks, Snowflake, Amazon, SAP, ServiceNow und Zoom verwenden ebenfalls verschiedene Teile des Toolkits, um die Suchgenauigkeit, Prognosefähigkeiten und Unternehmens-KI-Dienste zu verbessern.

Ergänzend zum Toolkit hat NVIDIA die OpenShell-Referenzarchitektur vorgestellt – eine Enterprise-Grade-Infrastruktur, die Hardware und Software verbindet, darunter Vera Rubin-Systeme, Vera-CPUs und BlueField-DPUs mit NVIDIAs Sentry-Sicherheitsframework. Diese Architektur erzwingt Sicherheitsrichtlinien im Silizium, überwacht kontinuierlich das Verhalten der KI-Agenten und isoliert Agenten innerhalb von Millisekunden, wenn diese unautorisierte Aktionen zu unternehmen versuchen. OpenShell unterstützt verschiedene Betriebssysteme und Container-Orchestrierungsplattformen, was Branchen von Gesundheitswesen bis Telekommunikation anspricht.

Branchengrößen wie AWS, Google Cloud, IBM, Meta, Microsoft, Cisco, CrowdStrike sowie führende Banken wie BBVA und Santander arbeiten mit NVIDIA zusammen, um dieses Framework umzusetzen und weiterzuentwickeln – ein Beleg für das breite Engagement für sichere und skalierbare KI-Agenteneinführungen.

Darüber hinaus bietet NVIDIA Auto Ontology an, eine offene Bibliothek, die eine semantische Kontextschicht aus Unternehmensmetadaten erstellt. Auto Ontology ermöglicht natürliche Sprachabfragen strukturierter Daten mit Validierung, Abgleich verschiedener Datendefinitionen und bietet den KI-Agenten vertrauenswürdige geschäftliche Bedeutungen. Es unterstützt flexible Bereitstellungen, darunter Kubernetes und Docker, und integriert Authentifizierung sowie rollenbasierte Zugriffskontrolle.

Zusammen zielen diese Erweiterungen und neuen Architekturen von NVIDIA darauf ab, die Nützlichkeit, Zuverlässigkeit und Sicherheit von KI-Agenten für Unternehmen zu erhöhen, die sich auf eine großflächige Einführung von KI-Agenten vorbereiten. Durch die Kombination ausgefeilter Datenverankerung, sicherer Laufzeitumgebungen und umfassender Governance-Tools will NVIDIA Unternehmen helfen, das Potenzial der KI mit Vertrauen zu nutzen.

Weitere Details und Demonstrationen dieser Fähigkeiten wurden auf der GTC Berlin-Konferenz von NVIDIA präsentiert.