Laskenta

Google ottaa käyttöön Tool Retrieval -toiminnon Gemini API:ssa optimoidakseen agenttien työkalujen hallintaa

Tendela Briefing ·
6 näkymää · 0 Kommentit
Google ottaa käyttöön Tool Retrieval -toiminnon Gemini API:ssa optimoidakseen agenttien työkalujen hallintaa

Kuva: Google · Lähde

Google esittelee Tool Retrieval -ominaisuuden Gemini API:n esiversiossa, joka mahdollistaa agenttien ladata työkalujen parametrikaaviot tarpeen mukaan, vähentäen syötteen tokenien määrää ja viivettä suuria työkalukirjastoja hallittaessa.

Google on ilmoittanut Tool Retrieval -toiminnon esikatseluversion julkaisemisesta Gemini API:ssaan, jonka tavoitteena on auttaa kehittäjiä hallinnoimaan tehokkaasti suuria tekoälyagenttien käyttämiä ohjelmistotyökalukirjastoja. Perinteisesti tekoälyagentit, jotka ovat yhteydessä kymmeniin tai satoihin työkaluihin, ovat lähettäneet jokaisen työkalun täydellisen parametrikaavion jokaisen kehotteen yhteydessä. Tämä tapa kasvattaa syötteen tokenien määrää, lisää viivettä ja voi heikentää työkalujen valinnan tarkkuutta ehdokastyökalujen määrän kasvaessa.

Uusi Tool Retrieval -ominaisuus korjaa nämä ongelmat sallimalla agentin pitää laaja työkalukirjasto valmiustilassa, lataamalla yksityiskohtaiset parametrikaaviot vain tiettyä tehtävää varten tarvittavalle työkalulle. Tämä menetelmä vähentää tiedonsiirtoa, nopeuttaa vastausaikoja ja parantaa työkalujen valinnan tarkkuutta.

Kehittäjät voivat ottaa tämän toiminnon käyttöön lisäämällä "tool_search"-työkalun pyyntöihin ja asettamalla "defer_loading"-lipun todeksi työkaluille, joiden kuormittamista halutaan lykätä. Vaikka malli saa kaikkien lykättyjen työkalujen nimet ja kuvaukset tietäen niiden saatavuuden, laajat parametrikaaviot pysyvät lataamatta, kunnes agentti nimenomaisesti kutsuu työkalun nimeltä. Tämä tapahtuu saman API-pyynnön sisällä, jossa järjestelmä lataa dynaamisesti tarvittavan kaavion ja suorittaa työkalukutsun.

Gemini API versioista 3.6 alkaen, mukaan lukien kaikki Gemini 4 -mallit, tukee tätä ominaisuutta Interactions API:ssa. Tool Retrieval on yhteensopiva etuliitteen välimuistin kanssa, pitäen vakaan kehotteen etuliitteen dynaamisen kaaviolatauksen aikana, ja se integroituu myös etä-MCP-palvelimien kanssa lykkäämällä koko työkaluryhmän kaavioiden lataamisen etänä.

Asiakkailla, joilla on omia työkalurekistereitä tai käyttöoikeussuodattimia, on käytettävissä asiakaspuolen hakutila, joka mahdollistaa dynaamisen työkaluhakemisen keskustelujen aikana ja tukee uusien työkalujen lisäämistä istunnon aikana. Google huomauttaa, että Tool Retrieval ei aiheuta lisämaksuja tavallisten syöte- ja tulostetokenien lisäksi, ja tokenien säästöä saavutetaan tyypillisesti silloin, kun monet työkalukaaviot lykätään lataamatta niitä aluksi.

Google kannustaa kehittäjiä tutustumaan dokumentaatioon ja esimerkkeihin Tool Retrievalin käyttöönotossa, tavoitteena helpottaa kehittyneempien ja reagointikykyisempien sovellusten kehittämistä, jotka toimivat laajojen työkaluekosysteemien kanssa. Tämä päivitys on merkittävä edistysaskele agenttitehtävien tehokkaassa käsittelyssä ja tärkeä askel tekoälyn työkalujen kehityksessä Gemini-alustalla.

Gemini spark on a space background
Gemini spark on a space background · Lähde ↗

Lähteet ja alkuperäiset raportit

Kommentit (0)

Ei vielä kommentteja. Aloita keskustelu.

Kirjoita kommentti

Kommentit julkaistaan moderoinnin jälkeen. Nimesi ja kommenttisi näkyvät julkisesti. Tili