I ricercatori hanno presentato TRACER, un sistema di recupero che aiuta gli agenti basati su modelli linguistici di grandi dimensioni a scegliere lo strumento giusto da un ampio catalogo. Il sistema archivia le sequenze di chiamate agli strumenti effettuate in precedenza in un trie (una struttura ad albero) e classifica i possibili strumenti successivi combinando indizi basati sui dati e sul contesto. Nei test, TRACER ha permesso a GPT‑5.4 di scegliere lo strumento corretto con una frequenza superiore di 4,7 punti percentuali, mostrando solo 5 dei 128 strumenti disponibili e riducendo di circa l’80% i token di input per passaggio.
Quanto migliora le prestazioni?
Nei sei ambienti di test e con quattro modelli linguistici, TRACER ha superato l’approccio basato sull’intero catalogo in 21 dei 24 abbinamenti tra modello e ambiente. Il miglioramento medio nella precisione della scelta degli strumenti è stato compreso tra 6 e 10 punti; nei tre casi in cui TRACER ha ottenuto risultati peggiori, lo scarto non ha superato i 2,2 punti. In un’esecuzione autonoma completa, il sistema ha eguagliato il successo complessivo di GPT‑5.4 nelle attività, usando però il 61% in meno di token di input per passaggio.
Cosa cambia per gli utenti
Per chi sviluppa assistenti AI che devono usare servizi esterni, per esempio per verificare la disponibilità di un prodotto o attivare un piano telefonico, TRACER può rendere l’assistente più rapido e meno costoso da usare, perché invia molti meno token al modello linguistico. Il minor numero di token riduce anche il rischio di raggiungere i limiti di contesto del modello quando sono disponibili molti strumenti.
Perché conta
Gli sviluppatori possono creare assistenti più efficaci, rapidi e meno costosi da gestire, perché devono inviare meno token al modello linguistico. Per gli utenti questo potrebbe tradursi in risposte più rapide quando un’AI deve cercare un prezzo, prenotare un servizio o recuperare dati da un sistema esterno.
