Perplexity ve NVIDIA araştırmacıları, ortak öğretmen-öğrenci pekiştirmeli öğrenme yöntemi JOLT’u duyurdu. Bu yaklaşımda, ana eğitim aşamasının ardından tek bir model hem öğretmen hem de öğrenci olarak eğitiliyor. MATH kıyaslamasında JOLT, GRPO yöntemiyle aynı doğruluk oranına 6,5 kat daha az eğitim token’ı kullanarak ulaştı. Sonuç, model mimarisini değiştirmeden verimliliği artırmanın bir yolunu gösteriyor.
Neden önemli
Araştırmacılar modelleri daha düşük maliyetle ince ayardan geçirebilir; böylece yüksek performanslı matematiksel akıl yürütme, hesaplama bütçesi kısıtlı laboratuvarlar için daha erişilebilir hâle gelir.
