Datorer

Google lanserar Tool Retrieval-funktion i Gemini API för att optimera hantering av agentverktyg

Tendela Briefing ·
6 visningar · 0 Kommentarer
Google lanserar Tool Retrieval-funktion i Gemini API för att optimera hantering av agentverktyg

Bild: Google · Källa

Google introducerar Tool Retrieval i Gemini API:s förhandsversion, vilket gör det möjligt för agenter att ladda verktygsparameter-specifikationer vid behov, vilket minskar användningen av inputtokens och fördröjning vid hantering av stora verktygsbibliotek.

Google har meddelat förhandslanseringen av Tool Retrieval i sin Gemini API, en funktion som hjälper utvecklare att effektivt hantera stora bibliotek av programvaruverktyg som används av AI-agenter. Traditionellt har AI-agenter som är kopplade till tiotals eller hundratals verktyg skickat hela verktygets parameternschema med varje prompt. Denna metod ökar användningen av inputtokens, förlänger latensen och kan minska noggrannheten vid val av verktyg när antalet tillgängliga verktyg växer.

Den nya Tool Retrieval-funktionen åtgärdar dessa problem genom att låta en agent upprätthålla ett omfattande verktygsbibliotek i standby-läge, och endast ladda det detaljerade parameternschemat för ett specifikt verktyg när det behövs för en viss uppgift. Denna metod minskar dataöverföring, snabbar upp svarstiden och förbättrar precisionen vid val av verktyg.

Utvecklare kan aktivera denna funktion genom att lägga till ett "tool_search"-verktyg i sina förfrågningar och sätta flaggan "defer_loading" till true på verktyg som de vill skjuta upp från initial laddning. Modellen får fortfarande namnen och beskrivningarna av alla uppskjutna verktyg för att vara medveten om deras tillgänglighet, men de omfattande parameternschemana förblir oladdade tills agenten explicit anropar ett verktyg med namn. Denna process sker inom samma API-förfrågan där systemet dynamiskt laddar nödvändigt schema och utför verktygsanropet.

Gemini API, från version 3.6 och framåt inklusive alla Gemini 4-modeller, stödjer denna funktion i sin Interactions API. Tool Retrieval är kompatibelt med prefix-caching och bibehåller stabila promptprefix trots dynamisk schemaladdning och integreras även med fjärr-MCP-servrar genom att skjuta upp schemaladdningar för hela verktygssamlingar på distans.

För användare med egna verktygsregister eller behörighetsfilter finns en klientbaserad hämtläge som tillåter dynamisk verktygsuppslagning under konversationer och stöder tillägg av nya verktyg mitt i en session. Google noterar att Tool Retrieval inte innebär några extra kostnader utöver standardavgifterna för input- och outputtokens, och att tokenbesparingar vanligtvis uppstår när många verktygsscheman skjuts upp istället för att laddas direkt.

Google uppmuntrar utvecklare att utforska dokumentationen och exempel som finns tillgängliga för att implementera Tool Retrieval, med målet att underlätta utvecklingen av mer kapabla och responsiva applikationer som interagerar med omfattande verktygsekosystem. Denna uppdatering representerar en betydande förbättring i hanteringen av komplexa agentuppgifter effektivt och markerar ett viktigt steg i utvecklingen av AI-verktyg inom Gemini-plattformen.

Gemini spark on a space background
Gemini spark on a space background · Källa ↗

Källor och ursprunglig rapportering

Kommentarer (0)

Inga kommentarer ännu. Börja diskussionen.

Skriv en kommentar

Kommentarer publiceras efter granskning. Ditt namn och kommentar syns offentligt. Konto