Google ievieš rīku izgūšanas funkciju Gemini API, lai optimizētu aģentu rīku pārvaldību

Attēls: Google · Avots
Google Gemini API priekšskatījumā iepazīstina ar rīku izgūšanas funkciju, kas ļauj aģentiem pēc pieprasījuma ielādēt rīku parametru shēmas, samazinot ievades tokenu skaitu un latentumu plašu rīku krātuves pārvaldībā.
Google ir paziņojis par rīku izgūšanas funkcijas priekšskatījuma izlaišanu savā Gemini API, kas paredzēta, lai palīdzētu izstrādātājiem efektīvi pārvaldīt lielas programmatūras rīku bibliotēkas, ko izmanto mākslīgā intelekta aģenti. Tradicionāli mākslīgā intelekta aģenti, kas pieslēdzas desmitiem vai simtiem rīku, katrā pieprasījumā nosūtītu pilnu katra rīka parametru shēmu. Šī pieeja palielina ievades tokenu izmantošanu, pievieno latentumu un var samazināt rīku izvēles precizitāti, jo pieaugt rīku kandidātu skaits.
Jaunā rīku izgūšanas funkcija risina šīs problēmas, ļaujot aģentam uzturēt visaptverošu rīku bibliotēku gaidīšanas režīmā, ielādējot detalizētas parametru shēmas konkrētam rīkam tikai tad, kad tas nepieciešams konkrētam uzdevumam. Šī metode samazina datu pārraidi, paātrina atbildes laiku un uzlabo rīku izvēles precizitāti.
Izstrādātāji var aktivizēt šo funkciju, pieprasījumos pievienojot "tool_search" rīku un iestatot "defer_loading" karogu kā patiesu tiem rīkiem, kurus vēlas atlikt no sākotnējās ielādes. Lai gan modelis joprojām saņem visu atlikto rīku nosaukumus un aprakstus, lai apzinātos to pieejamību, detalizētās parametru shēmas netiek ielādētas, līdz aģents skaidri izsauc rīku pēc nosaukuma. Šis process notiek tā paša API pieprasījuma ietvaros, kur sistēma dinamiski ielādē nepieciešamo shēmu un izpilda rīka funkcijas izsaukumu.
Gemini API no versijas 3.6 un tālāk, ieskaitot visus Gemini 4 modeļus, atbalsta šo funkciju savā Interactions API. Rīku izgūšana ir saderīga ar priekšteča kešošanu (prefix caching), saglabājot stabilus pieprasījuma priekštečus, neskatoties uz dinamisku shēmu ielādi, kā arī integrējas ar attāliem MCP serveriem, atlikt shēmu ielādi pilnām rīku kopām attālināti.
Lietotājiem ar pielāgotām rīku reģistrācijām vai piekļuves filtriem pieejams klienta puses izgūšanas režīms, kas ļauj dinamiski meklēt rīkus sarunu gaitā un atbalsta jaunu rīku pievienošanu sesijas vidū. Google atzīmē, ka rīku izgūšana neskar papildu maksu ārpus standarta ievades un izvades tokenu likmēm, un tokenu ietaupījums parasti rodas, ja daudzu rīku shēmu ielāde ir atlikta, nevis veikta uzreiz.
Google aicina izstrādātājus iepazīties ar dokumentāciju un piemēriem, lai ieviestu rīku izgūšanu, veicinot jaudīgāku un atsaucīgāku lietojumprogrammu attīstību, kas mijiedarbojas ar plašu rīku ekosistēmu. Šī atjauninājums nozīmē nozīmīgu uzlabojumu sarežģītu aģentu uzdevumu efektīvā nodrošināšanā un ir svarīgs solis mākslīgā intelekta rīku attīstībā Gemini platformā.

Avoti un oriģinālziņas
Lasīt oriģinālo avotu ↗

Komentāri (0)
Komentāru vēl nav. Sāciet diskusiju.
Rakstīt komentāru
Komentāri tiek publicēti pēc moderēšanas. Jūsu vārds un komentārs būs redzami publiski. Konts