Oossa

Microsoft e UC Berkeley lanciano TokenEconomizer

Secondo quanto riportato, il plugin open source ha ridotto del 18,4%–30,9% l’uso di token nei coding agent su SWE-Bench, senza modificare l’agente.

Di Pubblicato da Oossa: 2 min di lettura

Florian Olivo · Unsplash

Microsoft Research e la University of California, Berkeley hanno rilasciato TokenEconomizer, un plugin open source pensato per ridurre l’uso di token da parte dei coding agent. Secondo MarkTechPost, impara dalle sessioni precedenti e ha ridotto i costi dei token dal 18,4% al 30,9% su SWE-Bench. I ricercatori affermano che il plugin funziona senza modificare l’agente.

I token sono porzioni di testo elaborate da un sistema di IA. Usarne meno può ridurre la quantità di utilizzo del modello necessaria a un agente, anche se le percentuali riportate riguardano i costi dei token, non una cifra in dollari. Inoltre, non significa che ogni utente debba aspettarsi lo stesso risparmio: il risultato è legato a SWE-Bench e i dettagli disponibili non indicano come siano variate le riduzioni a seconda delle attività o delle configurazioni degli agenti.

L’idea centrale descritta è che il plugin impari dalle sessioni precedenti. Invece di richiedere un coding agent diverso, TokenEconomizer viene presentato come un componente aggiuntivo che sfrutta la cronologia delle sessioni per rendere più efficiente l’uso dei token. Questo potrebbe essere utile ai team che usano ripetutamente i coding agent, ma la descrizione non spiega quali informazioni vengano memorizzate, come venga deciso cosa riutilizzare né se gli utenti possano controllare queste scelte.

Cosa non è ancora chiaro

La fascia di risparmio riportata è promettente come indicazione del potenziale risparmio di token, ma mancano i dettagli necessari per valutarla. MarkTechPost non specifica il modello o l’agente testato, la configurazione del benchmark, il numero di esecuzioni né il confronto con altri metodi per risparmiare token. Non dice nemmeno se il risultato sia stato verificato in modo indipendente. In assenza di queste informazioni, la percentuale va letta come un risultato riportato su un singolo benchmark, non come una garanzia per altri lavori di programmazione.

TokenEconomizer viene descritto come open source, ma il riepilogo dell’annuncio non indica un repository, una licenza, gli agenti supportati o i requisiti di configurazione. Queste informazioni permetterebbero agli sviluppatori di capire quanto sia facile provarlo e se sia compatibile con i loro strumenti. Per ora, il dato confermato è più circoscritto: Microsoft Research e UC Berkeley hanno rilasciato un plugin che, a loro dire, può ridurre i costi dei token dei coding agent su SWE-Bench senza modificare l’agente.

Perché conta

Per gli sviluppatori che usano coding agent, un minore impiego di token potrebbe ridurre i costi di utilizzo, se risultati simili si ripetessero nelle loro attività. Il risultato riportato è limitato a SWE-Bench e i dettagli disponibili non dimostrano risparmi nell’uso reale, importi in dollari né quali agenti possano usare il plugin.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.