Ein Forschungsteam unter der Leitung von Yifan Yu hat ORL vorgestellt, eine Methode des On-Policy-Residual-Lernens für Diffusions-Sprachmodelle. ORL trainiert das Modell anhand seiner eigenen Vorhersagepfade und ergänzt eine Entropie-Kontraktionsfunktion, um die Ausgaben zu präzisieren. Bei einem 4 B-Modell, das aus Qwen3‑4B umgewandelt wurde, steigerte ORL die Zahl der Tokens pro Vorwärtsdurchlauf um bis zu 6,2× und den Gesamtdurchsatz um etwa 6,9×. Die Qualität war dabei ebenso gut oder besser als bei autoregressiven Spekulationsverfahren. Dieselbe Technik sorgte bei LLaDA‑2.1‑mini für eine Geschwindigkeitssteigerung um das 1,5-Fache und bei DiffusionGemma für moderate Zugewinne.
Warum es wichtig ist
Entwickler können eine schnellere Textgenerierung in hoher Qualität auf GPUs für Endverbraucher bereitstellen und so Kosten und Latenz bei Anwendungen wie Chatbots senken.
