Forskare har lanserat TRACER, ett söksystem som hjälper agenter baserade på stora språkmodeller att välja rätt verktyg ur ett stort register. Systemet sparar tidigare sekvenser av verktygsanrop i ett trie, ett trädliknande index, och rangordnar möjliga nästa verktyg utifrån en kombination av datadrivna signaler och ledtrådar från sammanhanget. I experimenten gjorde TRACER att GPT‑5.4 valde rätt verktyg 4,7 procentenheter oftare, trots att modellen bara fick se 5 av 128 verktyg. Samtidigt minskade mängden indata-token per steg med omkring 80%.
Hur mycket bättre presterar det?
I sex testmiljöer och med fyra språkmodeller slog TRACER metoden med hela verktygsregistret i 21 av 24 kombinationer av modell och miljö. Den genomsnittliga förbättringen i träffsäkerhet vid verktygsval låg på 6–10 procentenheter. I de tre fall där TRACER presterade sämre var skillnaden högst 2,2 procentenheter. I en autonom körning över en hel uppgift nådde systemet samma totala uppgiftsresultat som GPT‑5.4, men använde 61% färre indata-token per steg.
Vad innebär det för användarna?
För utvecklare som bygger AI-assistenter som behöver anropa externa tjänster – till exempel för att kontrollera lagersaldo eller aktivera ett teleabonnemang – kan TRACER göra assistenten snabbare och billigare i drift, eftersom den skickar betydligt färre token till språkmodellen. Den lägre tokenmängden minskar också risken för att modellens kontextgräns nås när många verktyg finns tillgängliga.
Varför det spelar roll
Utvecklare kan bygga smartare assistenter som svarar snabbare och kostar mindre i drift, eftersom de behöver skicka färre token till språkmodellen. För slutanvändare kan det innebära snabbare svar när en AI-assistent behöver slå upp ett pris, boka en tjänst eller hämta information från ett externt system.
