Pesquisadores liderados por Yifan Yu apresentaram o ORL, um método de aprendizado residual on-policy para modelos de linguagem por difusão. O ORL treina o modelo com seus próprios caminhos de predição e acrescenta uma função de perda de contração da entropia para tornar as respostas mais precisas. Em um modelo de 4 B convertido a partir do Qwen3‑4B, o ORL aumentou em até 6,2× o número de tokens por passada de inferência e em cerca de 6,9× o throughput geral, igualando ou superando a qualidade de modelos especulativos autorregressivos. A mesma técnica trouxe um ganho de velocidade de 1,5× no LLaDA‑2.1‑mini e ganhos modestos no DiffusionGemma.
Por que importa
Desenvolvedores podem implantar geração de texto mais rápida e de alta qualidade em GPUs de consumo, reduzindo custos e latência em aplicações como chatbots.
