De paper NormTune stelt een eenvoudige aanvulling voor op parameterzuinige finetuning (PEFT). De methode kijkt hoeveel de gewichten van elke laag veranderen en versterkt lagen waarin dat te weinig gebeurt. Door NormTune toe te voegen aan bestaande PEFT-methoden zoals LoRA, Bone en MoRA steeg de gemiddelde nauwkeurigheid op zware redeneringstests zoals AIME en MATH met maximaal 24 %. Bij een hogere rank (256) presteerden de methoden met NormTune even goed als volledige finetuning; soms waren ze die met enkele procentpunten de baas.
Waarom het ertoe doet
Zo kunnen onderzoekers en ontwikkelaars op redeneringstaken bijna dezelfde nauwkeurigheid halen als met een volledig gefinetuned model, maar met veel minder GPU-tijd en geheugen.
