Oossa

Gemini API får förhandsversion av verktygshämtning

Utvecklare kan nu hämta verktygsscheman vid behov, vilket minskar tokenåtgången och fördröjningen för agenter som använder många funktioner.

NotisAv Publicerad av Oossa: 1 min läsning

Google meddelade att verktygshämtning nu finns som förhandsversion för Gemini Interactions API. Funktionen gör att en agent kan ha ett stort bibliotek med funktioner, men bara skicka ett verktygs fullständiga parameterschema när modellen faktiskt behöver det. Utvecklare aktiverar funktionen genom att lägga till en tool_search-post och ange defer_loading: true för de funktioner vars inläsning ska skjutas upp. Modellen ser fortfarande varje verktygs namn och beskrivning, så den kan välja rätt verktyg innan API:et hämtar schemat i samma förfrågan.

Varför det spelar roll

Det minskar tokenkostnaderna och svarstiden för utvecklare som bygger agenter med kopplingar till dussintals eller hundratals verktyg.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.