# ORL让扩散语言模型提速最高7倍

> 全新的ORL框架让4B扩散模型在保持质量的同时加快解码，单块GPU上的速度超过每秒5,000个token。

Oossa · 2026-10-16 · https://oossa.com/zh/orl-speeds-up-diffusion-language-models-up-to-7

由Yifan Yu领衔的研究人员推出了ORL，这是一种面向扩散语言模型的在线残差学习方法。ORL利用模型自身的预测路径进行训练，并加入熵收缩损失，让输出更精准。在一个由Qwen3-4B转换而来的4 B模型上，ORL将每次前向传播生成的token数最多提升了6.2倍，整体吞吐量提升约6.9倍，质量达到或超过自回归模型。该技术还让LLaDA‑2.1‑mini的速度提升1.5倍，并为DiffusionGemma带来小幅提升。

## 事实

- 论文发表于2026-10-16（“PUBLISHED: Fri Oct 16 2026”）。
- ORL在单块B200 GPU上实现了每秒5,046个token的速度。

## 为什么重要

开发者可以在消费级GPU上部署更快且质量更高的文本生成，降低聊天机器人等应用的成本和延迟。

## 来源与参考

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

最后更新: 2026-10-16