Oossa

Perplexity e NVIDIA presentano il metodo di apprendimento JOLT

La nuova tecnica di post-training permette a un modello di insegnare a se stesso e riduce di 6,5 volte i token usati nel benchmark MATH.

BreveDi Pubblicato da Oossa: 1 min di lettura

I ricercatori di Perplexity e NVIDIA hanno presentato JOLT, un metodo di apprendimento per rinforzo che combina insegnante e allievo. Dopo la fase principale di addestramento, la tecnica fa sì che un unico modello svolga entrambi i ruoli. Nel benchmark MATH, JOLT ha raggiunto la stessa accuratezza del metodo GRPO usando 6,5 volte meno token di addestramento. Il risultato mostra come migliorare l’efficienza senza modificare l’architettura del modello.

Perché conta

I ricercatori possono perfezionare i modelli a costi inferiori, rendendo le capacità di ragionamento matematico avanzate più accessibili ai laboratori con risorse di calcolo limitate.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.