A Baseten anunciou que suas APIs de modelos agora oferecem suporte ao carregamento sob demanda de ferramentas em modelos abertos, como DeepSeek, Kimi e GLM. Com a mudança, os esquemas das ferramentas deixam de ficar no prompt do sistema e só são carregados quando necessário. Em testes com o Claude Code e três plugins registrados, os benchmarks de programação ficaram 62,5% mais baratos e 26,2% mais rápidos. Nos benchmarks de agentes, a economia também chegou a cerca de 51% no custo e 15% no tempo.
Por que importa
Desenvolvedores podem executar agentes de IA com menor custo e mais rapidez, sem mudar de modelo nem de código.