I ricercatori propongono Self-Assessment Reinforcement Learning (SARL), un metodo di addestramento per i modelli linguistici che cercano informazioni prima di rispondere. Il metodo insegna loro a tenere traccia di ciò che hanno trovato e di ciò che ancora manca, con l’obiettivo di ridurre gli errori di ragionamento e le ricerche interrotte troppo presto.
Gli autori riferiscono un miglioramento relativo del 24.3% rispetto al loro baseline più solido, con incrementi medi del 35.9% nei benchmark di ragionamento multi-hop e del 27.9% in quelli di ricerca approfondita, rispetto ai baseline più solidi per ciascun compito. Secondo gli autori, SARL non richiede valutazioni aggiuntive al momento di formulare la risposta; l’abstract dell’articolo non indica quali modelli siano stati testati né fornisce dettagli sufficienti per valutare quanto i risultati siano applicabili agli strumenti di ricerca disponibili.
Perché conta
Per i team che sviluppano assistenti per la ricerca, SARL suggerisce che si può insegnare ai modelli a tenere traccia delle ricerche durante l’addestramento, invece di aggiungere un passaggio separato al momento dell’uso. L’abstract, però, non dimostra che il metodo sia utile nei prodotti reali.
