Forskare under ledning av Yifan Yu presenterade ORL, en metod för residualinlärning on-policy för diffusionsspråkmodeller. ORL tränar modellen på dess egna prediktionsbanor och lägger till en entropisammandragande förlustfunktion för att skärpa resultaten. På en 4 B-modell som konverterats från Qwen3‑4B ökade ORL antalet token per framåtpass med upp till 6,2 gånger och den totala genomströmningen med omkring 6,9 gånger, samtidigt som kvaliteten matchade eller överträffade autoregressiva modeller. Samma teknik gav 1,5 gånger högre hastighet på LLaDA‑2.1‑mini och mindre förbättringar på DiffusionGemma.
Varför det spelar roll
Utvecklare kan använda snabbare textgenerering av hög kvalitet på GPU:er för konsumentbruk, vilket sänker kostnader och fördröjning i tillämpningar som chattbotar.
