Des chercheurs dirigés par Yifan Yu ont présenté ORL, une méthode d’apprentissage résiduel en politique pour les modèles de langage à diffusion. ORL entraîne le modèle sur ses propres trajectoires de prédiction et ajoute une fonction de perte de contraction de l’entropie pour affiner les résultats. Sur un modèle de 4 B obtenu à partir de Qwen3‑4B, ORL a multiplié par jusqu’à 6,2 le nombre de tokens générés par passe avant et augmenté le débit global d’environ 6,9×, tout en égalant ou dépassant la qualité des modèles autorégressifs spéculatifs. La même technique a accéléré LLaDA‑2.1‑mini de 1,5× et apporté des gains plus modestes à DiffusionGemma.
Pourquoi c'est important
Les développeurs peuvent déployer une génération de texte plus rapide et de haute qualité sur des GPU grand public, ce qui réduit les coûts et la latence pour des applications comme les chatbots.
