PerplexityとNVIDIA、JOLT学習手法を発表

PerplexityとNVIDIAの研究者は、教師と生徒が共同で学ぶ強化学習手法「JOLT」を発表した。この手法では、主要な学習段階を終えた後、単一のモデルが教師と生徒の両方として機能する。MATHベンチマークでは、JOLTはGRPOと同じ精度を、学習トークン数を6.5分の1に抑えて達成した。この結果は、モデルのアーキテクチャを変えずに効率を高める方法を示している。