Investigadores de Perplexity y NVIDIA anunciaron JOLT, un método conjunto de aprendizaje por refuerzo con profesor y alumno. El enfoque entrena un único modelo para que actúe como profesor y alumno después de la fase principal de entrenamiento. En la prueba MATH, JOLT alcanzó la misma precisión que el método GRPO utilizando 6,5 veces menos tokens de entrenamiento. El resultado muestra una forma de mejorar la eficiencia sin cambiar la arquitectura del modelo.
Por qué importa
Los investigadores pueden ajustar modelos con menos costos, lo que facilita el acceso a capacidades avanzadas de razonamiento matemático para laboratorios con presupuestos de computación limitados.
