Forschende von Perplexity und NVIDIA haben JOLT vorgestellt, eine gemeinsame Reinforcement-Learning-Methode für Lehrende und Lernende. Dabei wird ein einziges Modell nach der Haupttrainingsphase darauf trainiert, sowohl als Lehrendes als auch als Lernendes zu agieren. Beim MATH-Benchmark erzielte JOLT dieselbe Genauigkeit wie die GRPO-Methode und benötigte dabei 6,5-mal weniger Trainingstokens. Das Ergebnis zeigt, wie sich die Effizienz verbessern lässt, ohne die Modellarchitektur zu verändern.
Warum es wichtig ist
Forschende können Modelle kostengünstiger feinabstimmen. So wird leistungsstarkes mathematisches Schlussfolgern auch für Labore mit begrenztem Rechenbudget leichter zugänglich.
