# ORL accelera fino a 7× i modelli linguistici a diffusione

> Il nuovo framework ORL velocizza la decodifica dei modelli a diffusione da 4B senza comprometterne la qualità, superando i 5.000 token al secondo su una singola GPU.

Oossa · 2026-10-16 · https://oossa.com/it/orl-speeds-up-diffusion-language-models-up-to-7

I ricercatori guidati da Yifan Yu hanno presentato ORL, un metodo di apprendimento residuo on-policy per i modelli linguistici a diffusione. ORL addestra il modello sui propri percorsi di previsione e aggiunge una funzione di perdita di contrazione dell’entropia per rendere più precise le risposte. Su un modello da 4 B ottenuto convertendo Qwen3‑4B, ORL ha aumentato fino a 6,2× i token generati per passaggio in avanti e di circa 6,9× la velocità complessiva, raggiungendo una qualità pari o superiore a quella dei modelli autoregressivi di riferimento. La stessa tecnica ha aumentato la velocità di 1,5× su LLaDA‑2.1‑mini e ha prodotto miglioramenti più contenuti su DiffusionGemma.

## I fatti

- Articolo pubblicato il 2026-10-16 ("PUBLISHED: Fri Oct 16 2026").
- ORL ha raggiunto fino a 5.046 token/s su una singola GPU B200.

## Perché conta

Gli sviluppatori possono distribuire modelli di generazione del testo più veloci e di alta qualità su GPU di fascia consumer, riducendo costi e latenza per applicazioni come i chatbot.

## Fonti e riferimenti

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Ultimo aggiornamento: 2026-10-16