# ORL acelera modelos de linguagem por difusão em até 7×

> A nova estrutura ORL permite que modelos de difusão de 4B gerem texto mais rápido sem perder qualidade, superando 5.000 tokens por segundo em uma única GPU.

Oossa · 2026-10-16 · https://oossa.com/pt/orl-speeds-up-diffusion-language-models-up-to-7

Pesquisadores liderados por Yifan Yu apresentaram o ORL, um método de aprendizado residual on-policy para modelos de linguagem por difusão. O ORL treina o modelo com seus próprios caminhos de predição e acrescenta uma função de perda de contração da entropia para tornar as respostas mais precisas. Em um modelo de 4 B convertido a partir do Qwen3‑4B, o ORL aumentou em até 6,2× o número de tokens por passada de inferência e em cerca de 6,9× o throughput geral, igualando ou superando a qualidade de modelos especulativos autorregressivos. A mesma técnica trouxe um ganho de velocidade de 1,5× no LLaDA‑2.1‑mini e ganhos modestos no DiffusionGemma.

## Os fatos

- Artigo publicado em 2026-10-16 ("PUBLISHED: Fri Oct 16 2026").
- O ORL alcançou até 5,046 tokens/s em uma única GPU B200.

## Por que importa

Desenvolvedores podem implantar geração de texto mais rápida e de alta qualidade em GPUs de consumo, reduzindo custos e latência em aplicações como chatbots.

## Fontes e referências

1. [On-Policy Residual Learning for Diffusion Language Models](https://arxiv.org/abs/2610.20687) – arXiv cs.LG, 2026-10-16

Última atualização: 2026-10-16