Onderzoekers hebben TRACER uitgebracht, een zoeksysteem dat agents op basis van grote taalmodellen helpt de juiste tool te kiezen uit een uitgebreide catalogus. Het systeem slaat eerdere reeksen toolaanroepen op in een trie (een boomvormige index) en rangschikt mogelijke volgende tools op basis van een combinatie van datapatronen en contextuele aanwijzingen. In experimenten koos GPT‑5.4 met TRACER 4,7 procentpunt vaker de juiste tool, terwijl het systeem slechts 5 van de 128 tools toonde. Het aantal invoertokens per stap daalde daarmee met ongeveer 80%.
Hoeveel beter presteert het?
In zes testomgevingen en met vier taalmodellen presteerde TRACER beter dan de aanpak met de volledige toolcatalogus in 21 van de 24 combinaties van model en omgeving. De gemiddelde winst in nauwkeurigheid bij toolkeuze lag tussen 6 en 10 procentpunt; in de drie gevallen waarin TRACER minder goed presteerde, bleef het verschil beperkt tot maximaal 2,2 procentpunt. Tijdens een volledig autonome uitvoering over meerdere stappen behaalde het systeem hetzelfde algehele taaksucces als GPT‑5.4, terwijl het per stap 61% minder invoertokens gebruikte.
Wat betekent dit voor gebruikers?
Voor ontwikkelaars die AI-assistenten bouwen die externe diensten moeten aanroepen — bijvoorbeeld om de voorraad te controleren of een telecomabonnement te activeren — kan TRACER de assistent sneller en goedkoper maken. Er hoeven namelijk veel minder tokens naar het taalmodel te worden gestuurd. Het lagere tokenaantal verkleint ook de kans dat de contextlimiet van het model wordt bereikt wanneer er veel tools beschikbaar zijn.
Waarom het ertoe doet
Ontwikkelaars kunnen slimmere assistenten bouwen die sneller reageren en goedkoper zijn in gebruik, omdat ze minder tokens naar het taalmodel hoeven te sturen. Voor eindgebruikers kan dat leiden tot snellere antwoorden wanneer een AI een prijs moet opzoeken, een dienst moet boeken of gegevens uit een extern systeem moet ophalen.
