Komputery

Google wprowadza funkcję Tool Retrieval w Gemini API dla optymalizacji zarządzania narzędziami agenta

Tendela Briefing ·
6 odsłon · 0 Komentarze
Google wprowadza funkcję Tool Retrieval w Gemini API dla optymalizacji zarządzania narzędziami agenta

Image: Google · Source

Google wprowadza Tool Retrieval w wersji preview Gemini API, umożliwiając agentom ładowanie schematów parametrów narzędzi na żądanie, co zmniejsza liczbę tokenów wejściowych i opóźnienia przy zarządzaniu dużymi bibliotekami narzędzi.

Google ogłosiło wersję preview funkcji Tool Retrieval w swoim Gemini API, mającej na celu pomóc deweloperom efektywnie zarządzać dużymi bibliotekami narzędzi programowych używanych przez agentów AI. Tradycyjnie agenci AI powiązani z dziesiątkami lub setkami narzędzi wysyłali pełne schematy parametrów każdego narzędzia przy każdym wywołaniu. Takie podejście zwiększa użycie tokenów wejściowych, dodaje opóźnienia i może obniżać dokładność wyboru narzędzia wraz ze wzrostem liczby dostępnych kandydatów.

Nowa funkcja Tool Retrieval rozwiązuje te problemy, pozwalając agentowi utrzymywać obszerną bibliotekę narzędzi w trybie gotowości, ładując szczegółowe schematy parametrów danego narzędzia tylko wtedy, gdy jest ono potrzebne do konkretnego zadania. Metoda ta redukuje transfer danych, przyspiesza czas odpowiedzi i zwiększa precyzję wyboru narzędzi.

Programiści mogą włączyć tę funkcjonalność poprzez dodanie narzędzia "tool_search" do zapytań oraz ustawienie flagi "defer_loading" na true dla narzędzi, które chcą powstrzymać od wstępnego ładowania. Model nadal otrzymuje nazwy i opisy wszystkich odroczonych narzędzi, by znać ich dostępność, jednak rozbudowane schematy parametrów pozostają niezaładowane, dopóki agent nie wywoła narzędzia po nazwie. Proces ten odbywa się w ramach tego samego zapytania API, gdzie system dynamicznie ładuje wymagany schemat i wykonuje wywołanie funkcji narzędzia.

Gemini API, od wersji 3.6 obejmującej wszystkie modele Gemini 4, wspiera tę funkcję w Interactions API. Tool Retrieval jest kompatybilny z pamięcią podręczną prefiksów, utrzymując stabilne prefiksy promptów mimo dynamicznego ładowania schematów, oraz integruje się z zdalnymi serwerami MCP przez odraczanie ładowania schematów całych zestawów narzędzi zdalnie.

Dla użytkowników z niestandardowymi rejestrami narzędzi lub filtrami uprawnień dostępny jest tryb pobierania po stronie klienta, pozwalający na dynamiczne wyszukiwanie narzędzi podczas rozmów i dodawanie nowych narzędzi w trakcie sesji. Google podkreśla, że Tool Retrieval nie wiąże się z dodatkowymi opłatami poza standardowymi stawkami za tokeny wejściowe i wyjściowe, a oszczędność tokenów następuje głównie, gdy wiele schematów jest odraczanych zamiast ładowanych od razu.

Google zachęca deweloperów do zapoznania się z dokumentacją i przykładami, by wdrożyć Tool Retrieval, mając na celu ułatwienie tworzenia bardziej zaawansowanych i responsywnych aplikacji, które współpracują z rozległymi ekosystemami narzędzi. Ta aktualizacja stanowi istotne ulepszenie w efektywnym obsługiwaniu złożonych zadań agentów, co jest krokiem naprzód w ewolucji narzędzi AI na platformie Gemini.

Gemini spark on a space background
Gemini spark on a space background · Źródło ↗

Źródła i oryginalne doniesienia

Komentarze (0)

Nie ma jeszcze komentarzy.

Napisz komentarz

Komentarze publikujemy po moderacji. Nazwa i komentarz będą publiczne. Konto