Google lanza la función de recuperación de herramientas en la API Gemini para optimizar la gestión de herramientas de agentes

Image: Google · Source
Google presenta Tool Retrieval en la vista previa de la API Gemini, que permite a los agentes cargar esquemas de parámetros de herramientas bajo demanda, reduciendo tokens de entrada y latencia al gestionar grandes bibliotecas de herramientas.
Google ha anunciado la versión preliminar de Tool Retrieval en su API Gemini, diseñada para ayudar a los desarrolladores a gestionar eficientemente grandes bibliotecas de herramientas de software utilizadas por agentes de inteligencia artificial. Tradicionalmente, los agentes de IA conectados a decenas o cientos de herramientas enviaban el esquema completo de parámetros de cada herramienta con cada solicitud. Este enfoque incrementa el uso de tokens de entrada, añade latencia y puede reducir la precisión en la selección de herramientas a medida que crece el número de herramientas candidatas.
La nueva función Tool Retrieval soluciona estos problemas permitiendo que un agente mantenga una biblioteca completa de herramientas en modo espera, cargando solo los esquemas detallados de parámetros de una herramienta específica cuando se necesita para una tarea determinada. Este método reduce la transferencia de datos, acelera los tiempos de respuesta y mejora la precisión en la selección de herramientas.
Los desarrolladores pueden habilitar esta funcionalidad añadiendo una herramienta "tool_search" a las solicitudes y configurando la bandera "defer_loading" en true para las herramientas que desean posponer la carga inicial. Aunque el modelo sigue recibiendo los nombres y descripciones de todas las herramientas aplazadas para estar al tanto de su disponibilidad, los esquemas detallados de parámetros permanecen sin cargar hasta que el agente llama explícitamente a una herramienta por nombre. Este proceso ocurre dentro de la misma solicitud API, donde el sistema carga dinámicamente el esquema necesario y ejecuta la llamada a la función de la herramienta.
La API Gemini, desde la versión 3.6 en adelante, incluyendo todos los modelos Gemini 4, soporta esta función en su API de Interacciones. Tool Retrieval es compatible con el almacenamiento en caché de prefijos, manteniendo prefijos estables en los prompts a pesar de la carga dinámica de esquemas, y también se integra con servidores MCP remotos al diferir las cargas de esquemas para conjuntos completos de herramientas de forma remota.
Para usuarios con registros personalizados de herramientas o filtros de permisos, existe un modo de recuperación en el cliente que permite la búsqueda dinámica de herramientas durante las conversaciones y soporta la adición de nuevas herramientas a mitad de sesión. Google señala que Tool Retrieval no genera cargos adicionales más allá de las tarifas estándar por tokens de entrada y salida, y que el ahorro de tokens suele ocurrir cuando se postergan muchas cargas de esquemas de herramientas en lugar de cargarlas al comienzo.
Google anima a los desarrolladores a explorar la documentación y los ejemplos proporcionados para implementar Tool Retrieval, con el objetivo de facilitar el desarrollo de aplicaciones más capaces y receptivas que interactúen con ecosistemas extensos de herramientas. Esta actualización representa una mejora significativa en el manejo eficiente de tareas complejas de agentes, marcando un paso importante en la evolución de las herramientas de IA dentro de la plataforma Gemini.

Fuentes e informes originales
Read the original source ↗

Comentarios (0)
Aún no hay comentarios.
Escribe un comentario
Los comentarios se publican tras moderación. Tu nombre y comentario serán públicos. Cuenta