Oossa

В Gemini Interactions API появилась предварительная загрузка описаний инструментов

Разработчики могут загружать схемы инструментов по запросу, сокращая расход токенов и задержку у агентов, использующих множество функций.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Google объявила, что функция поиска инструментов теперь доступна в предварительной версии для Gemini Interactions API. Агент может хранить большую библиотеку функций, но передавать полную схему параметров инструмента только тогда, когда она действительно нужна модели. Чтобы включить эту возможность, разработчикам нужно добавить запись tool_search и задать defer_loading: true для функций, загрузку которых они хотят отложить. Модель по-прежнему видит название и описание каждого инструмента и может выбрать подходящий — после этого API загружает его схему в рамках того же запроса.

Почему это важно

Это снижает затраты на токены и сокращает время ответа для разработчиков, создающих агентов с десятками или сотнями интегрированных инструментов.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.