Oossa

Baseten réduit jusqu’à 62 % le coût des agents IA

Le chargement différé des outils réduit le nombre de tokens et accélère les tâches : les agents de programmation gagnent jusqu’à 62,5 % sur les coûts et 26 % sur le temps d’exécution.

BrèvePar Publié par Oossa: 1 min de lecture

Baseten a annoncé que ses API Model prennent désormais en charge le chargement différé des outils pour des modèles ouverts comme DeepSeek, Kimi et GLM. Cette fonctionnalité exclut les schémas des outils de l’invite système et ne les charge qu’en cas de besoin. Lors de tests avec Claude Code et trois plugins enregistrés, les benchmarks de programmation ont coûté 62,5 % de moins et se sont exécutés 26,2 % plus vite. Les benchmarks agentiques ont également enregistré des économies d’environ 51 % sur les coûts et 15 % sur le temps d’exécution.

Pourquoi c'est important

Les développeurs peuvent exécuter des agents IA plus rapidement et à moindre coût, sans changer de modèle ni de code.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.