# LayerTrim से तर्क क्षमता बरकरार रखते हुए मॉडल की छंटाई

> LayerTrim की नई विधि डिकोडर लेयर के MLP हिस्सों को हटाती है। इससे Qwen3‑14B की रफ्तार 1.24× बढ़ती है और मेमोरी का इस्तेमाल 19.7% घटता है, जबकि लंबे तर्क की क्षमता बनी रहती है।

Oossa · 2026-10-15 · https://oossa.com/hi/layertrim-offers-training-free-pruning-that-keeps-reasoning-ability

शोधकर्ताओं ने LayerTrim पेश किया है—बड़े भाषा मॉडलों की संरचित छंटाई की ऐसी तकनीक, जिसके लिए दोबारा प्रशिक्षण की ज़रूरत नहीं पड़ती। यह डिकोडर लेयर के गैरज़रूरी हिस्से हटाती है, लेकिन अटेंशन तंत्र को जस का तस रखती है। इससे लंबे तर्क की ज़रूरत वाले कामों में प्रदर्शन बनाए रखने में मदद मिलती है। 14 अरब पैरामीटर वाले Qwen3 मॉडल पर LayerTrim, बिना छंटाई वाले मॉडल की तुलना में प्रीफिल को 1.24 गुना तेज़ करता है और GPU की अधिकतम मेमोरी खपत 19.7 प्रतिशत घटाता है। तीन मॉडलों और पांच बेंचमार्क पर, इसने पिछले RESP तरीके के मुकाबले औसत सटीकता में 21.4 अंक तक सुधार किया।

## तथ्य

- शोधपत्र Thu Oct 15 2026 को पोस्ट किया गया
- Qwen3‑14B पर LayerTrim प्रीफिल को 1.24× तेज़ करता है और GPU की अधिकतम मेमोरी खपत 19.7% घटाता है

## यह क्यों मायने रखता है

डेवलपर महंगे दोबारा प्रशिक्षण के बिना तर्क संबंधी कामों के लिए छोटे और तेज़ भाषा मॉडल तैनात कर सकते हैं।

## स्रोत और संदर्भ

1. [Unlocking Structured Pruning for Reasoning Language Models via Attention-Preserving MLP Trimming](https://arxiv.org/abs/2610.19121) – arXiv cs.LG, 2026-10-15

अंतिम अपडेट: 2026-10-15