# ORL ускоряет диффузионные языковые модели до 7 раз

> Новый фреймворк ORL ускоряет генерацию в диффузионных моделях на 4B параметров без потери качества: на одной GPU скорость превышает 5 000 токенов в секунду.

Oossa · 2026-10-16 · https://oossa.com/ru/orl-speeds-up-diffusion-language-models-up-to-7

Исследователи под руководством Yifan Yu представили ORL — метод обучения с остаточной коррекцией на собственных траекториях генерации для диффузионных языковых моделей. Модель обучается на собственных путях предсказания, а функция потерь с энтропийным сжатием делает результаты точнее. На модели с 4 B параметров, полученной на основе Qwen3‑4B, ORL увеличил число токенов за один проход вперёд до 6,2 раза, а общую пропускную способность — примерно в 6,9 раза, сохранив или превзойдя качество спекулятивного декодирования авторегрессионных моделей. Та же методика ускорила LLaDA‑2.1‑mini в 1,5 раза и дала более скромный прирост на DiffusionGemma.

## Факты

- Статья опубликована 2026-10-16 («PUBLISHED: Fri Oct 16 2026»).
- ORL обеспечил скорость до 5,046 токенов/с на одной GPU B200.

## Почему это важно

Разработчики смогут запускать генерацию текста быстрее и без потери качества на GPU потребительского класса, снижая стоимость и задержки в таких приложениях, как чат-боты.

## Источники и ссылки

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Обновлено: 2026-10-16