Das Paper NormTune stellt eine einfache Ergänzung für parameter-effizientes Fine-Tuning (PEFT) vor. Dabei wird gemessen, wie stark sich die Gewichte der einzelnen Schichten verändern. Schichten mit besonders geringen Veränderungen werden stärker gewichtet. Die Ergänzung bestehender PEFT-Methoden wie LoRA, Bone und MoRA durch NormTune steigerte die durchschnittliche Genauigkeit bei anspruchsvollen Reasoning-Tests wie AIME und MATH um bis zu 24 %. Mit einem höheren Rang (256) erreichten die erweiterten Methoden die Leistung des vollständigen Fine-Tunings und übertrafen sie teilweise um einige Prozentpunkte.
Warum es wichtig ist
So können Forschende und Entwickler bei Reasoning-Aufgaben nahezu die Genauigkeit eines vollständig feinabgestimmten Modells erreichen und benötigen dafür deutlich weniger GPU-Zeit und Speicher.
