# ORL accélère jusqu’à 7× les modèles de langage à diffusion

> Le nouveau cadre ORL accélère le décodage des modèles à diffusion de 4B sans perte de qualité, avec plus de 5 000 tokens par seconde sur un seul GPU.

Oossa · 2026-10-16 · https://oossa.com/fr/orl-speeds-up-diffusion-language-models-up-to-7

Des chercheurs dirigés par Yifan Yu ont présenté ORL, une méthode d’apprentissage résiduel en politique pour les modèles de langage à diffusion. ORL entraîne le modèle sur ses propres trajectoires de prédiction et ajoute une fonction de perte de contraction de l’entropie pour affiner les résultats. Sur un modèle de 4 B obtenu à partir de Qwen3‑4B, ORL a multiplié par jusqu’à 6,2 le nombre de tokens générés par passe avant et augmenté le débit global d’environ 6,9×, tout en égalant ou dépassant la qualité des modèles autorégressifs spéculatifs. La même technique a accéléré LLaDA‑2.1‑mini de 1,5× et apporté des gains plus modestes à DiffusionGemma.

## Les faits

- Article publié le 2026-10-16 (« PUBLISHED: Fri Oct 16 2026 »).
- ORL a atteint jusqu’à 5 046 tokens/s sur un seul GPU B200.

## Pourquoi c'est important

Les développeurs peuvent déployer une génération de texte plus rapide et de haute qualité sur des GPU grand public, ce qui réduit les coûts et la latence pour des applications comme les chatbots.

## Sources et références

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Dernière mise à jour: 2026-10-16