Baseten meddelade att företagets Model APIs nu stöder uppskjuten inläsning av verktyg för öppna modeller som DeepSeek, Kimi och GLM. Ändringen håller verktygsschemana utanför systemprompten och läser in dem först när de behövs. I tester med Claude Code och tre registrerade pluginer blev kodningsriktmärken 62,5 % billigare och 26,2 % snabbare. Även agentbaserade riktmärken visade besparingar på omkring 51 % i kostnad och 15 % i tid.
Varför det spelar roll
Utvecklare kan köra AI-agenter billigare och snabbare utan att byta modeller eller ändra kod.