Onderzoekers onder leiding van Qi Zhang hebben PORA uitgebracht, een techniek waarmee LLM-agenten leren wanneer langer redeneren betere resultaten oplevert. Tijdens het trainen voert het systeem dezelfde stap twee keer uit: één keer met een korte en één keer met een langere limiet voor het redeneren. Zo ziet het welke aanpak tot een beter eindresultaat leidt. Tijdens het gebruik baseert een controller de keuze op die aangeleerde inschatting en het resterende rekenbudget. Zo kiest het systeem de goedkopere optie zonder beide varianten uit te voeren. Tests met taken rond geheugen, programmeren, retail en wiskunde lieten tot 32,9% hogere scores zien op een geheugentest en tot 31% minder modelaanroepen bij wiskundetaken.
Waarom het ertoe doet
Ontwikkelaars kunnen hiermee slimmere AI-agenten bouwen die minder cloudrekenkracht gebruiken zonder aan prestaties in te boeten. Dat verlaagt de kosten voor diensten die meerdere redeneerstappen vereisen.
