# ORL, 확산 언어 모델 속도 최대 7배 높여

> 새 ORL 프레임워크는 4B 확산 모델의 품질을 유지하면서 디코딩 속도를 높여 단일 GPU에서 초당 5,000토큰 이상을 구현한다.

Oossa · 2026-10-16 · https://oossa.com/ko/orl-speeds-up-diffusion-language-models-up-to-7

Yifan Yu가 이끄는 연구진은 확산 언어 모델을 위한 온폴리시 잔차 학습 기법 ORL을 공개했다. ORL은 모델이 자체 예측 경로를 학습하도록 하고, 출력을 더 선명하게 만드는 엔트로피 수축 손실을 추가한다. Qwen3‑4B를 변환한 4 B 모델에 ORL을 적용한 결과, 순전파당 토큰 수는 최대 6.2배, 전체 처리량은 약 6.9배 늘었으며 자기회귀 모델과 비슷하거나 더 나은 품질을 보였다. 같은 기법을 LLaDA‑2.1‑mini에 적용했을 때는 속도가 1.5배 향상됐고, DiffusionGemma에서는 소폭 개선됐다.

## 팩트

- 논문은 2026-10-16에 발표됐다("PUBLISHED: Fri Oct 16 2026").
- ORL은 단일 B200 GPU에서 초당 최대 5,046토큰을 처리했다.

## 왜 중요한가

개발자는 소비자용 GPU에서 더 빠르고 품질 높은 텍스트 생성을 구현할 수 있어 챗봇 같은 애플리케이션의 비용과 지연 시간을 줄일 수 있다.

## 출처 및 참고 자료

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

최종 업데이트: 2026-10-16