NVIDIA utvider Agent Toolkit for å styrke bedrifts-AI-agenter med selskapsdata og sikkerhet

Bilde: NVIDIA · Kilde

NVIDIA forbedrer sin åpne Agent Toolkit med nye komponenter som gjør det mulig for bedrifter å bygge tilpassede, sikre AI-agenter som bruker selskapsdata for informerte handlinger, støttet av OpenShell Reference Architecture for robust sikkerhet og styring.

NVIDIA har annonsert betydelige utvidelser av sin åpne NVIDIA Agent Toolkit for bedre å utruste bedrifter til å lage tilpassede, pålitelige AI-agenter basert på deres proprietære data. Den oppdaterte verktøypakken integrerer flere komponenter—som den nye Agent Knowledge Foundation, åpne modeller inkludert Nemotron Retriever og Kumo-familien, og sikre kjøretidsmiljøer med OpenShell og NemoClaw-blåkopier—for å hjelpe utviklere med å bygge agenter som kan utføre reelt arbeid innen strenge sikkerhets- og styringsgrenser.

Kjernen i denne forbedringen er NVIDIA Agent Knowledge Foundation, som omdanner bedriftsdata til handlingsbar intelligens uten å kreve dataflytting eller endringer i styring. Drevet av CUDA-X-biblioteker og det nye Auto-Ontology-biblioteket, organiserer den semantisk rå forretningsdata som kunder, produkter og bestillinger, noe som gjør det mulig for agenter å forstå og bruke denne informasjonen nøyaktig. Inkluderingen av NVIDIAs Nemotron Retriever og Kumo åpne modeller hjelper agenter med å finne relevant data for å svare på forespørsler og forutsi utfall.

For å sikre at disse agentene opererer sikkert og innen definerte begrensninger, tilbyr NVIDIA OpenShell, et sikkert kjøretidsmiljø. OpenShell skaper en herdet grense som kontrollerer agenters tilgang og handlinger, mens NemoClaw sikre blåkopier tilbyr referansedesign for å utvikle spesialiserte, optimaliserte agenter hvis intelligens kan forbedres over tid.

Verktøyets adopsjon pågår allerede hos store organisasjoner. NVIDIAs avdeling for forsyningskjede benytter Agent Knowledge Foundation gjennom Palantir Foundry for å distribuere spesialiserte agenter for prognoser og beslutningsoptimalisering i forsyningskjeden. Databricks, Snowflake, Amazon, SAP, ServiceNow og Zoom bruker også ulike deler av verktøypakken for å forbedre søkenøyaktighet, prediktive evner og bedrifts-AI-tjenester.

Som et supplement til verktøyet har NVIDIA introdusert OpenShell Reference Architecture—en bedriftsskalainfrastruktur som samler maskinvare og programvare, inkludert Vera Rubin-systemer, Vera CPU-er og BlueField DPU-er med NVIDIAs Sentry sikkerhetsrammeverk. Denne arkitekturen håndhever sikkerhetspolicyer i silisium, overvåker kontinuerlig AI-agenters atferd, og karantenerer agenter på millisekunder hvis de forsøker uautorisert handling. OpenShell støtter diverse operativsystemer og containerorkestreringsplattformer, noe som appellerer til industrier fra helsetjenester til telekommunikasjon.

Bransjeledere som AWS, Google Cloud, IBM, Meta, Microsoft, Cisco, CrowdStrike, samt fremtredende banker som BBVA og Santander samarbeider med NVIDIA for å implementere og bygge videre på denne rammen—noe som demonstrerer et bredt engasjement for trygg og skalerbar AI-agentdistribusjon.

Videre tilbyr NVIDIA Auto Ontology, et åpent bibliotek som bygger et semantisk kontekstlag fra bedriftsmetadata. Auto Ontology muliggjør naturlig språkspørring av strukturert data med validering, forsoning av divergerende datadefinisjoner, og tildeling av pålitelig forretningsforståelse til AI-agenter. Det støtter fleksibel distribusjon inkludert Kubernetes og Docker, og integrerer autentisering og rollebasert tilgangskontroll.

Disse utvidelsene og nye arkitekturer fra NVIDIA søker samlet å fremme AI-agenters nytteverdi, pålitelighet og sikkerhet for bedrifter som forbereder seg på storskala AI-agentdistribusjon. Ved å kombinere avansert datagrunnlag, sikre kjøretidsmiljøer og omfattende styringsverktøy har NVIDIA som mål å hjelpe virksomheter med å utnytte AI med tillit.

Flere detaljer og demonstrasjoner av disse mulighetene ble presentert på NVIDIAs GTC Berlin-konferanse.