# ORL beschleunigt Diffusions-Sprachmodelle um bis zu 7×

> Das neue ORL-Framework beschleunigt die Decodierung von 4B-Diffusionsmodellen, ohne die Qualität zu beeinträchtigen. Auf einer einzelnen GPU erreicht es mehr als 5.000 Tokens pro Sekunde.

Oossa · 2026-10-16 · https://oossa.com/de/orl-speeds-up-diffusion-language-models-up-to-7

Ein Forschungsteam unter der Leitung von Yifan Yu hat ORL vorgestellt, eine Methode des On-Policy-Residual-Lernens für Diffusions-Sprachmodelle. ORL trainiert das Modell anhand seiner eigenen Vorhersagepfade und ergänzt eine Entropie-Kontraktionsfunktion, um die Ausgaben zu präzisieren. Bei einem 4 B-Modell, das aus Qwen3‑4B umgewandelt wurde, steigerte ORL die Zahl der Tokens pro Vorwärtsdurchlauf um bis zu 6,2× und den Gesamtdurchsatz um etwa 6,9×. Die Qualität war dabei ebenso gut oder besser als bei autoregressiven Spekulationsverfahren. Dieselbe Technik sorgte bei LLaDA‑2.1‑mini für eine Geschwindigkeitssteigerung um das 1,5-Fache und bei DiffusionGemma für moderate Zugewinne.

## Die Fakten

- Die Arbeit wurde am 2026-10-16 veröffentlicht („PUBLISHED: Fri Oct 16 2026“).
- ORL erreichte auf einer einzelnen B200-GPU bis zu 5.046 Tokens/s.

## Warum es wichtig ist

Entwickler können eine schnellere Textgenerierung in hoher Qualität auf GPUs für Endverbraucher bereitstellen und so Kosten und Latenz bei Anwendungen wie Chatbots senken.

## Quellen und Referenzen

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Zuletzt aktualisiert: 2026-10-16