Oossa

Google test tool ophalen voor de Gemini Interactions API

Ontwikkelaars kunnen tooldefinities voortaan op aanvraag laden. Dat bespaart tokens en verkort de responstijd van agents die veel functies gebruiken.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Google heeft aangekondigd dat het ophalen van tools nu in preview beschikbaar is voor de Gemini Interactions API. Zo kan een agent een uitgebreide bibliotheek met functies bijhouden, maar pas de volledige parameterschema’s van tools meesturen wanneer het model die nodig heeft. Ontwikkelaars schakelen de functie in door een tool_search-vermelding toe te voegen en defer_loading: true in te stellen voor de functies die ze later willen laden. Het model ziet nog steeds de naam en beschrijving van elke tool, zodat het de juiste kan kiezen voordat de API het schema binnen hetzelfde verzoek ophaalt.

Waarom het ertoe doet

Dit verlaagt de tokenkosten en verkort de responstijd voor ontwikkelaars die agents bouwen die tientallen of honderden tools integreren.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.