# ORL、拡散言語モデルの生成を最大7倍高速化

> 新たなORLフレームワークにより、4Bの拡散モデルは品質を保ちながら高速にデコードでき、単一GPUで毎秒5,000トークン超を達成する。

Oossa · 2026-10-16 · https://oossa.com/ja/orl-speeds-up-diffusion-language-models-up-to-7

Yifan Yu氏らの研究チームは、拡散言語モデル向けのオンポリシー残差学習手法「ORL」を発表した。ORLはモデル自身の予測経路を使って学習し、出力をより明確にするエントロピー収縮損失を加える。Qwen3‑4Bから変換した4 Bモデルでは、1回のフォワードパスあたりのトークン数が最大6.2倍に増え、全体のスループットは約6.9倍に向上。自己回帰型モデルと同等以上の品質を実現した。同じ手法により、LLaDA‑2.1‑miniでは1.5倍の速度向上が得られ、DiffusionGemmaでも小幅な改善が見られた。

## 事実

- 論文は2026-10-16に公開された（「公開：2026年10月16日（金）」）。
- ORLは単一のB200 GPUで毎秒5,046トークンを達成した。

## なぜ重要か

開発者は、コンシューマー向けGPUでも高品質なテキスト生成を高速に実行できる。これにより、チャットボットなどのアプリケーションのコストや待ち時間を削減できる。

## 出典と参考資料

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

最終更新: 2026-10-16
