L’article NormTune propose un ajout simple au réglage fin efficace en paramètres (PEFT). La méthode mesure l’ampleur des changements apportés aux poids de chaque couche et renforce celles qui évoluent trop peu. L’ajout de NormTune à des méthodes PEFT existantes comme LoRA, Bone et MoRA a augmenté la précision moyenne jusqu’à 24 % sur des tests de raisonnement difficiles, tels que AIME et MATH. Avec un rang plus élevé (256), les méthodes optimisées par NormTune ont égalé les performances du réglage fin complet, et les ont parfois dépassées de quelques points de pourcentage.
Pourquoi c'est important
Cette méthode permet aux chercheurs et aux développeurs d’atteindre une précision proche de celle d’un modèle entièrement réglé sur des tâches de raisonnement, tout en utilisant beaucoup moins de temps GPU et de mémoire.
