Baseten ha annunciato che le sue Model API supportano ora il caricamento differito degli strumenti per modelli open come DeepSeek, Kimi e GLM. In questo modo, gli schemi degli strumenti non vengono inseriti nel prompt di sistema, ma caricati solo quando servono. Nei test con Claude Code e tre plugin registrati, i benchmark di programmazione hanno registrato costi inferiori del 62,5% e tempi più rapidi del 26,2%. Anche i benchmark agentici hanno mostrato risparmi di circa il 51% sui costi e del 15% sui tempi.
Perché conta
Gli sviluppatori possono usare agenti AI in modo più economico e rapido, senza cambiare modello o codice.