Oossa

Baseten reduz em até 62% o custo de agentes com carregamento sob demanda de ferramentas

O novo recurso reduz o uso de tokens e acelera as tarefas: agentes de programação gastam até 62,5% menos e concluem o trabalho 26% mais rápido.

NotaPor Publicado pelo Oossa: 1 min de leitura

A Baseten anunciou que suas APIs de modelos agora oferecem suporte ao carregamento sob demanda de ferramentas em modelos abertos, como DeepSeek, Kimi e GLM. Com a mudança, os esquemas das ferramentas deixam de ficar no prompt do sistema e só são carregados quando necessário. Em testes com o Claude Code e três plugins registrados, os benchmarks de programação ficaram 62,5% mais baratos e 26,2% mais rápidos. Nos benchmarks de agentes, a economia também chegou a cerca de 51% no custo e 15% no tempo.

Por que importa

Desenvolvedores podem executar agentes de IA com menor custo e mais rapidez, sem mudar de modelo nem de código.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.