Google lanserer Tool Retrieval-funksjon i Gemini API for å optimalisere agentverktøyhåndtering

Bilde: Google · Kilde
Google introduserer Tool Retrieval i Gemini API-previewen, som gjør at agenter kan laste inn verktøyparameter-skjemaer på forespørsel, noe som reduserer bruk av inputtokens og forsinkelse ved håndtering av store verktøybiblioteker.
Google har kunngjort en forhåndsutgivelse av Tool Retrieval i sin Gemini API, med mål om å hjelpe utviklere med effektiv håndtering av store biblioteker av programvareverktøy som brukes av AI-agenter. Tradisjonelt har AI-agenter tilkoblet titalls eller hundrevis av verktøy sendt hvert verktøys fullstendige parameterns skjema med hver prompt. Denne tilnærmingen øker bruken av inputtokens, legger til forsinkelse, og kan redusere nøyaktigheten i verktøyvalg etter hvert som antall kandidatverktøy vokser.
Den nye Tool Retrieval-funksjonen løser disse problemene ved å la en agent opprettholde et omfattende verktøybibliotek i standby-modus, og kun laste inn detaljerte parameterns skjemaer for et spesifikt verktøy når det trengs for en bestemt oppgave. Denne metoden reduserer datatransport, øker responstiden og forbedrer presisjonen i verktøyvalget.
Utviklere kan aktivere denne funksjonen ved å legge til et "tool_search"-verktøy i forespørsler og sette "defer_loading"-flagget til true på verktøy de ønsker å utsette fra initielle lasting. Modellen mottar fortsatt navnene og beskrivelsene av alle utsatte verktøy for å være klar over deres tilgjengelighet, men de omfattende parameterneskjemaene forblir ulastet til agenten eksplisitt påkaller et verktøy ved navn. Denne prosessen skjer innen samme API-forespørsel, der systemet dynamisk laster nødvendig skjema og utfører verktøyfunksjonskallet.
Gemini API, fra versjon 3.6 og videre inkludert alle Gemini 4-modeller, støtter denne funksjonen i sin Interactions API. Tool Retrieval er kompatibelt med prefix caching, noe som opprettholder stabile prompt-prefix til tross for dynamisk skjema lasting, og det integreres også med eksterne MCP-servere ved å utsette skjema lasting for hele verktøyssett eksternt.
For brukere med egne verktøyregistre eller tillatelsesfiltre finnes en klientbasert hentemodus, som tillater dynamisk verktøyoppslag under samtaler og støtter tillegg av nye verktøy midt i en økt. Google bemerker at Tool Retrieval ikke pådrar ekstra kostnader utover standard input- og outputtoken-satser, og tokensparing oppstår vanligvis når mange verktøyskjemaer utsettes i stedet for å lastes inn på forhånd.
Google oppfordrer utviklere til å utforske dokumentasjonen og eksemplene som tilbys for å implementere Tool Retrieval, med mål om å legge til rette for utvikling av mer kapable og responsive applikasjoner som interagerer med omfattende verktøyøkosystemer. Denne oppdateringen representerer en betydelig forbedring i effektiv håndtering av komplekse agentoppgaver, og markerer et viktig steg i utviklingen av AI-verktøy innen Gemini-plattformen.

Kilder og originalrapportering
Les originalkilden ↗

Kommentarer (0)
Ingen kommentarer ennå. Start diskusjonen.
Skriv en kommentar
Kommentarer publiseres etter moderering. Ditt navn og kommentar vil være synlige offentlig. Konto