# ORL gör diffusionsspråkmodeller upp till 7 gånger snabbare

> Det nya ORL-ramverket gör att diffusionsmodeller med 4B parametrar kan avkoda snabbare utan att tappa kvalitet. På en enda GPU nådde det över 5 000 token per sekund.

Oossa · 2026-10-16 · https://oossa.com/sv/orl-speeds-up-diffusion-language-models-up-to-7

Forskare under ledning av Yifan Yu presenterade ORL, en metod för residualinlärning on-policy för diffusionsspråkmodeller. ORL tränar modellen på dess egna prediktionsbanor och lägger till en entropisammandragande förlustfunktion för att skärpa resultaten. På en 4 B-modell som konverterats från Qwen3‑4B ökade ORL antalet token per framåtpass med upp till 6,2 gånger och den totala genomströmningen med omkring 6,9 gånger, samtidigt som kvaliteten matchade eller överträffade autoregressiva modeller. Samma teknik gav 1,5 gånger högre hastighet på LLaDA‑2.1‑mini och mindre förbättringar på DiffusionGemma.

## Fakta

- Artikeln publicerades 2026-10-16 (”PUBLISHED: Fri Oct 16 2026”).
- ORL nådde upp till 5 046 token/s på en enda B200-GPU.

## Varför det spelar roll

Utvecklare kan använda snabbare textgenerering av hög kvalitet på GPU:er för konsumentbruk, vilket sänker kostnader och fördröjning i tillämpningar som chattbotar.

## Källor och referenser

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Senast uppdaterad: 2026-10-16