Yifan Yu liderliğindeki araştırmacılar, difüzyon dil modelleri için politika içi artık öğrenme yöntemi ORL’yi tanıttı. ORL, modeli kendi tahmin yolları üzerinde eğitiyor ve çıktıları netleştirmek için entropi daraltma kaybı ekliyor. Qwen3‑4B’den dönüştürülen 4 B’lik bir modelde ORL, ileri geçiş başına token sayısını 6,2 kata kadar, toplam verimi ise yaklaşık 6,9 kat artırırken otoregresif modellerle aynı veya daha iyi kalite sundu. Aynı yöntem, LLaDA‑2.1‑mini’de hızı 1,5 kat artırdı; DiffusionGemma’da ise daha sınırlı kazanımlar sağladı.
Neden önemli
Geliştiriciler, sohbet botları gibi uygulamalarda maliyetleri ve gecikmeyi azaltarak tüketici sınıfı GPU’larda daha hızlı ve yüksek kaliteli metin üretimi sunabilir.
