# LayerTrim مدل‌ها را بدون آموزش هرس می‌کند و توانایی استدلال را حفظ می‌کند

> روش جدید LayerTrim بخش‌هایی از MLP در لایه‌های رمزگشا را حذف می‌کند؛ این روش سرعت Qwen3‑14B را 1.24× افزایش می‌دهد و مصرف حافظه را 19.7% کاهش می‌دهد، بی‌آنکه استدلال بلندمدت را مختل کند.

Oossa · 2026-10-15 · https://oossa.com/fa/layertrim-offers-training-free-pruning-that-keeps-reasoning-ability

پژوهشگران LayerTrim را معرفی کردند؛ روشی ساختاریافته برای هرس مدل‌های زبانی بزرگ که به آموزش مجدد نیاز ندارد. این روش لایه‌های رمزگشای اضافی را حذف می‌کند، اما سازوکارهای توجه را دست‌نخورده نگه می‌دارد؛ در نتیجه عملکرد مدل در کارهایی که به استدلال بلندمدت نیاز دارند حفظ می‌شود. در مدل Qwen3 با 14 میلیارد پارامتر، LayerTrim مرحله پیش‌پرکردن را 1.24 برابر سریع‌تر می‌کند و در مقایسه با مدل هرس‌نشده، اوج مصرف حافظه GPU را 19.7 درصد کاهش می‌دهد. این روش در سه مدل و پنج بنچمارک، دقت میانگین را نسبت به روش پیشین RESP تا 21.4 امتیاز افزایش داد.

## حقایق

- مقاله روز پنج‌شنبه، 15 اکتبر 2026 منتشر شد
- LayerTrim در Qwen3‑14B مرحله پیش‌پرکردن را 1.24× سریع‌تر و اوج مصرف حافظه GPU را 19.7% کمتر می‌کند

## چرا مهم است

توسعه‌دهندگان می‌توانند مدل‌های زبانی کوچک‌تر و سریع‌تری را برای کارهای استدلالی به‌کار بگیرند، بی‌آنکه هزینه آموزش مجدد را بپردازند.

## منابع و ارجاع‌ها

1. [Unlocking Structured Pruning for Reasoning Language Models via Attention-Preserving MLP Trimming](https://arxiv.org/abs/2610.19121) – arXiv cs.LG, 2026-10-15

آخرین به‌روزرسانی: 2026-10-15