Oossa

Gemini-API lädt Tool-Schemas bei Bedarf

Entwickler können Tool-Schemas jetzt bei Bedarf abrufen. Das senkt Tokenverbrauch und Latenz bei Agenten mit vielen Funktionen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Google hat angekündigt, dass der Abruf von Tools für die Gemini Interactions API jetzt als Vorschau verfügbar ist. Damit können Agenten eine große Funktionsbibliothek vorhalten und das vollständige Parameterschema eines Tools erst dann übermitteln, wenn das Modell es tatsächlich benötigt. Entwickler aktivieren die Funktion, indem sie einen Eintrag vom Typ tool_search hinzufügen und bei den Funktionen, deren Laden sie verzögern möchten, defer_loading: true festlegen. Das Modell sieht weiterhin Namen und Beschreibung jedes Tools und kann so das passende auswählen, bevor die API das Schema noch in derselben Anfrage abruft.

Warum es wichtig ist

Das senkt Tokenkosten und Antwortzeiten für Entwickler, die Agenten mit Dutzenden oder Hunderten Tools bauen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.