Oossa

Google prévisualise la recherche d’outils dans l’API Gemini Interactions

Les développeurs peuvent charger les schémas des outils à la demande, ce qui réduit le nombre de jetons utilisés et la latence des agents faisant appel à de nombreuses fonctions.

BrèvePar Publié par Oossa: 1 min de lecture

Google a annoncé que la recherche d’outils est désormais disponible en préversion dans l’API Gemini Interactions. Cette fonctionnalité permet à un agent de conserver une vaste bibliothèque de fonctions, tout en ne transmettant le schéma complet des paramètres d’un outil que lorsque le modèle en a besoin. Pour l’activer, les développeurs ajoutent une entrée tool_search et définissent defer_loading: true pour les fonctions dont ils souhaitent différer le chargement. Le modèle voit toujours le nom et la description de chaque outil : il peut donc sélectionner le bon avant que l’API ne récupère son schéma dans la même requête.

Pourquoi c'est important

Cette fonctionnalité réduit le coût des jetons et le temps de réponse pour les développeurs qui créent des agents intégrant des dizaines ou des centaines d’outils.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.