# NormTune से गणित और तर्क के कामों में सस्ती फाइन-ट्यूनिंग बेहतर

> शोधकर्ताओं ने पैरामीटर-कुशल फाइन-ट्यूनिंग में नॉर्म के आधार पर एक कदम जोड़ा है। इससे कई तर्क-बेंचमार्क पर इसका प्रदर्शन पूर्ण फाइन-ट्यूनिंग के करीब पहुंच गया।

Oossa · 2026-10-22 · https://oossa.com/hi/normtune-improves-cheap-fine-tuning-for-math-and-reasoning-tasks

शोधपत्र NormTune में पैरामीटर-कुशल फाइन-ट्यूनिंग (PEFT) के लिए एक आसान ऐड-ऑन पेश किया गया है। यह देखता है कि हर लेयर के वेट में कितना बदलाव होता है और जिन लेयर में बहुत कम बदलाव होता है, उन्हें बढ़ावा देता है। LoRA, Bone और MoRA जैसी मौजूदा PEFT विधियों में NormTune जोड़ने से AIME और MATH जैसे कठिन तर्क-परीक्षणों पर औसत सटीकता 24 % तक बढ़ी। बड़े रैंक (256) पर NormTune से बेहतर की गई विधियों का प्रदर्शन पूर्ण फाइन-ट्यूनिंग के बराबर पहुंच गया और कभी-कभी उससे कुछ प्रतिशत बेहतर भी रहा।

## तथ्य

- NormTune ने AIME 2024, MATH 500, GPQA और AIME 2025 पर rank‑8 LoRA की औसत सटीकता में 24.24% की बढ़ोतरी की।
- 2026-10-22 को प्रकाशित (arXiv:2610.29134)।

## यह क्यों मायने रखता है

इससे शोधकर्ता और डेवलपर बहुत कम GPU समय और मेमोरी खर्च करके तर्क-आधारित कार्यों में लगभग पूरे मॉडल जितनी सटीकता हासिल कर सकते हैं।

## स्रोत और संदर्भ

1. [NormTune: Norm-Guided Parameter-Efficient Fine-Tuning for Reasoning-Intensive Tasks](https://arxiv.org/abs/2610.29134) – arXiv, 2026-10-22

अंतिम अपडेट: 2026-10-22