Baseten a annoncé que ses API Model prennent désormais en charge le chargement différé des outils pour des modèles ouverts comme DeepSeek, Kimi et GLM. Cette fonctionnalité exclut les schémas des outils de l’invite système et ne les charge qu’en cas de besoin. Lors de tests avec Claude Code et trois plugins enregistrés, les benchmarks de programmation ont coûté 62,5 % de moins et se sont exécutés 26,2 % plus vite. Les benchmarks agentiques ont également enregistré des économies d’environ 51 % sur les coûts et 15 % sur le temps d’exécution.
Pourquoi c'est important
Les développeurs peuvent exécuter des agents IA plus rapidement et à moindre coût, sans changer de modèle ni de code.