Un gruppo di ricercatori guidato da Qi Zhang ha presentato PORA, una tecnica per agenti LLM che imparano quando un ragionamento più lungo migliora i risultati. Durante l’addestramento, il sistema esegue due volte lo stesso passaggio: una volta con un limite di ragionamento breve e una con uno più lungo, per valutare quale porta al risultato finale migliore. In fase di esecuzione, un controller usa questa stima appresa e il budget di calcolo residuo per scegliere l’opzione meno costosa, senza eseguire entrambe. Nei test su attività di memoria, programmazione, vendita al dettaglio e matematica, il metodo ha ottenuto punteggi fino al 32,9% più alti in un benchmark di memoria e ridotto fino al 31% le chiamate al modello nelle attività matematiche.
Perché conta
Consente agli sviluppatori di creare agenti IA più efficienti, che usano meno risorse di calcolo nel cloud senza sacrificare le prestazioni e riducono così i costi dei servizi basati sul ragionamento articolato.
