# NormTune förbättrar billig finjustering för matematik och resonemang

> Forskare lägger till ett normstyrt steg i parameter-effektiv finjustering och minskar skillnaden mot full finjustering på flera resonemangstester.

Oossa · 2026-10-22 · https://oossa.com/sv/normtune-improves-cheap-fine-tuning-for-math-and-reasoning-tasks

Artikeln NormTune presenterar ett enkelt tillägg för parameter-effektiv finjustering (PEFT). Metoden mäter hur mycket vikterna i varje lager förändras och förstärker lager där förändringen är för liten. När NormTune kombinerades med befintliga PEFT-metoder som LoRA, Bone och MoRA ökade den genomsnittliga träffsäkerheten med upp till 24 % på svåra resonemangstester som AIME och MATH. Med en högre rankning (256) nådde de NormTune-förstärkta metoderna samma resultat som full finjustering och slog ibland den med några procentenheter.

## Fakta

- NormTune gav LoRA med rankning 8 en genomsnittlig förbättring på 24.24% på AIME 2024, MATH 500, GPQA och AIME 2025.
- Publicerad 2026-10-22 (arXiv:2610.29134).

## Varför det spelar roll

Metoden gör det möjligt för forskare och utvecklare att nå nästan samma träffsäkerhet som med en fullständig modellfinjustering på resonemangstester, med betydligt mindre GPU-tid och minne.

## Källor och referenser

1. [NormTune: Norm-Guided Parameter-Efficient Fine-Tuning for Reasoning-Intensive Tasks](https://arxiv.org/abs/2610.29134) – arXiv, 2026-10-22

Senast uppdaterad: 2026-10-22