I ricercatori guidati da Yifan Yu hanno presentato ORL, un metodo di apprendimento residuo on-policy per i modelli linguistici a diffusione. ORL addestra il modello sui propri percorsi di previsione e aggiunge una funzione di perdita di contrazione dell’entropia per rendere più precise le risposte. Su un modello da 4 B ottenuto convertendo Qwen3‑4B, ORL ha aumentato fino a 6,2× i token generati per passaggio in avanti e di circa 6,9× la velocità complessiva, raggiungendo una qualità pari o superiore a quella dei modelli autoregressivi di riferimento. La stessa tecnica ha aumentato la velocità di 1,5× su LLaDA‑2.1‑mini e ha prodotto miglioramenti più contenuti su DiffusionGemma.
Perché conta
Gli sviluppatori possono distribuire modelli di generazione del testo più veloci e di alta qualità su GPU di fascia consumer, riducendo costi e latenza per applicazioni come i chatbot.
