Oossa

Baseten laat open modellen tools later laden en verlaagt kosten tot 62%

De nieuwe functie vermindert het tokengebruik en versnelt taken. Voor codeeragents levert dat tot 62,5% lagere kosten en 26% tijdwinst op.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Baseten heeft aangekondigd dat zijn Model APIs nu deferred tool loading ondersteunen voor open modellen zoals DeepSeek, Kimi en GLM. Daarbij blijven schemas van tools buiten de systeemprompt en worden ze alleen geladen wanneer dat nodig is. In tests met Claude Code en drie geregistreerde plug-ins waren codeerbenchmarks 62,5% goedkoper en 26,2% sneller. Bij agentbenchmarks daalden de kosten met ongeveer 51% en de benodigde tijd met 15%.

Waarom het ertoe doet

Ontwikkelaars kunnen AI-agents goedkoper en sneller inzetten zonder hun modellen of code aan te passen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.