Forskare från Perplexity och NVIDIA presenterade JOLT, en metod för förstärkningsinlärning där läraren och eleven samarbetar. Efter huvudträningsfasen tränas en och samma modell att fungera både som lärare och elev. På MATH-benchmarken nådde JOLT samma träffsäkerhet som GRPO-metoden, men använde 6,5 gånger färre träningstoken. Resultatet visar hur effektiviteten kan förbättras utan att ändra modellarkitekturen.
Varför det spelar roll
Forskare kan finjustera modeller till lägre kostnad, vilket gör avancerad matematisk problemlösning mer tillgänglig för forskningslabb med begränsade beräkningsresurser.
