Google käivitab Gemini API-s tööriistade otsimise funktsiooni, et optimeerida agentide tööriistade haldust

Pilt: Google · Allikas
Google tutvustab Gemini API eelvaates tööriistade otsimise (Tool Retrieval) funktsiooni, mis võimaldab agentidel laadida tööriista parameetrite skeeme vastavalt vajadusele, vähendades sisendtokenite hulka ja latentsust suurte tööriistakogude haldamisel.
Google on teatanud oma Gemini API-s tööriistade otsimise funktsiooni eelvaate vabastamisest, mille eesmärk on aidata arendajatel tõhusalt hallata AI agentide kasutuses olevaid suuri tarkvaratööriistade kogu. Traditsiooniliselt saadavad AI agendid, kes ühenduvad kümnete või sadade tööriistadega, iga päringu juures iga tööriista täieliku parameetrite skeemi. See lähenemine suurendab sisendtõkendi kasutust, lisab latentsust ja võib tööriista valiku täpsust vähendada, kui kandidaatide hulgas on palju tööriistu.
Uus tööriistade otsimise funktsioon lahendab need probleemid, võimaldades agendil hoida terviklikku tööriistade kogu ooteolekus ning laadida üksnes konkreetse ülesande jaoks vajaliku tööriista täpsemad parameetrite skeemid. See meetod vähendab andmeedastust, kiirendab vastamisaega ja parandab tööriista valiku täpsust.
Arendajad saavad selle funktsionaalsuse lubada, lisades päringutele "tool_search" tööriista ja seadistades lippu "defer_loading" tõele nende tööriistade puhul, mida soovitakse alglaadimisest edasi lükata. Kuigi mudel saab kõigi edasi lükatud tööriistade nimed ja kirjeldused, et olla nende kättesaadavusest teadlik, jäävad detailsed parameetrite skeemid laadimata kuni agent kutsub tööriista nimepidi. See protsess toimub sama API päringu raames, kus süsteem dünaamiliselt laadib vajaliku skeemi ja täidab tööriistakõne.
Gemini API versioonist 3.6 alates, sealhulgas kõik Gemini 4 mudelid, toetab seda funktsiooni oma Interactions API kaudu. Tööriistade otsing ühildub ka eellaadimise vahemäluga (prefix caching), säilitades stabiilsed päringu prefiksid vaatamata skeemide dünaamilisele laadimisele, ning integreerub ka kaug-MCP serveritega, võimaldades skeemide laadimise edasilükkamist tervete tööriistakogumite puhul.
Kasutajatele, kellel on kohandatud tööriistaregistrid või juurdepääsupõhised filtrid, on saadaval kliendipoolne otserežiim, mis võimaldab dünaamilist tööriistade otsimist vestluse käigus ja toetab uute tööriistade lisamist sessiooni keskel. Google märgib, et tööriistade otsimise kasutamine ei too kaasa lisatasusid väljaspool tava sisend- ja väljundtokenite määra ning tokenite kokkuhoid tekib enamasti siis, kui paljude tööriistade skeemide laadimist edasi lükatakse alglaadimise asemel.
Google julgustab arendajaid tutvuma dokumentatsiooni ja näidetega, et tööriistade otsimist rakendada, aidates arendada võimekamaid ja reageerimisvõimelisemaid rakendusi, mis suhtlevad suure tööriistade ökosüsteemiga. See uuendus tähistab olulist sammu AI tööriistadega keerukate agenttööde efektiivsemal käsitlemisel Gemini platvormil.

Allikad ja originaaluudised
Loe originaali allikat ↗

Kommentaarid (0)
Kommentaare veel pole. Alusta arutelu.
Kirjuta kommentaar
Kommentaarid avaldatakse pärast modereerimist. Sinu nimi ja kommentaar on avalikult nähtavad. Konto