Oossa

Baseten senkt Agentenkosten mit verzögertem Tool-Laden um bis zu 62 %

Die neue Funktion reduziert den Tokenverbrauch und beschleunigt Aufgaben. Für Coding-Agenten sinken die Kosten um bis zu 62,5 Prozent, die Bearbeitungszeit um 26 Prozent.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Baseten hat angekündigt, dass seine Model APIs jetzt verzögertes Laden von Tools für offene Modelle wie DeepSeek, Kimi und GLM unterstützen. Dabei bleiben die Tool-Schemas aus dem System-Prompt heraus und werden erst bei Bedarf geladen. In Tests mit Claude Code und drei registrierten Plugins waren Coding-Benchmarks 62,5 Prozent günstiger und 26,2 Prozent schneller. Auch bei agentischen Benchmarks sanken die Kosten um etwa 51 Prozent und die Bearbeitungszeit um 15 Prozent.

Warum es wichtig ist

Entwickler können KI-Agenten günstiger und schneller ausführen, ohne Modelle oder Code ändern zu müssen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.