Un equipo de investigadores liderado por Yifan Yu presentó ORL, un método de aprendizaje residual on-policy para modelos de difusión de lenguaje. ORL entrena el modelo con sus propias secuencias de predicción y añade una función de pérdida de contracción de entropía para afinar los resultados. En un modelo 4 B convertido a partir de Qwen3‑4B, ORL multiplicó por hasta 6,2 los tokens por pasada directa y aumentó el rendimiento general alrededor de 6,9 veces, igualando o superando la calidad de los modelos autorregresivos. La misma técnica aceleró 1,5 veces LLaDA‑2.1‑mini y produjo mejoras modestas en DiffusionGemma.
Por qué importa
Los desarrolladores pueden implementar generación de texto más rápida y de alta calidad en GPU de consumo, reduciendo los costos y la latencia de aplicaciones como los chatbots.
