Des chercheurs de Perplexity et de NVIDIA ont annoncé JOLT, une méthode d’apprentissage par renforcement qui associe un enseignant et un élève. Elle entraîne un seul modèle à jouer les deux rôles après la phase principale d’entraînement. Sur le benchmark MATH, JOLT a atteint la même précision que la méthode GRPO en utilisant 6,5 fois moins de tokens d’entraînement. Ce résultat montre qu’il est possible d’améliorer l’efficacité sans modifier l’architecture du modèle.
Pourquoi c'est important
Les chercheurs peuvent affiner les modèles à moindre coût, ce qui rend le raisonnement mathématique de haut niveau plus accessible aux laboratoires disposant de capacités de calcul limitées.
