# ORL maakt diffusi taalmodellen tot 7× sneller

> Met het nieuwe ORL-framework kunnen diffusiemodellen met 4B parameters sneller decoderen zonder kwaliteitsverlies. Op één GPU halen ze meer dan 5.000 tokens per seconde.

Oossa · 2026-10-16 · https://oossa.com/nl/orl-speeds-up-diffusion-language-models-up-to-7

Onderzoekers onder leiding van Yifan Yu introduceerden ORL, een methode voor on-policy residueel leren voor diffusi taalmodellen. ORL traint het model op zijn eigen voorspellingspaden en voegt een verliesfunctie voor entropiecontractie toe om de uitvoer aan te scherpen. Op een model met 4B parameters, afgeleid van Qwen3‑4B, verhoogde ORL het aantal tokens per forwardpass met maximaal 6,2× en de totale doorvoer met ongeveer 6,9×. De kwaliteit was daarbij gelijk aan of beter dan die van autoregressieve modellen. Dezelfde techniek zorgde voor 1,5× meer snelheid op LLaDA‑2.1‑mini en voor bescheiden winst op DiffusionGemma.

## De feiten

- Het artikel is gepubliceerd op 2026-10-16 ("PUBLISHED: Fri Oct 16 2026").
- ORL haalde maximaal 5.046 tokens per seconde op één B200-GPU.

## Waarom het ertoe doet

Ontwikkelaars kunnen tekst sneller en in hoge kwaliteit genereren op GPU’s voor consumenten, waardoor de kosten en latentie dalen voor toepassingen als chatbots.

## Bronnen en referenties

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Laatst bijgewerkt: 2026-10-16