پژوهشگران LayerTrim را معرفی کردند؛ روشی ساختاریافته برای هرس مدلهای زبانی بزرگ که به آموزش مجدد نیاز ندارد. این روش لایههای رمزگشای اضافی را حذف میکند، اما سازوکارهای توجه را دستنخورده نگه میدارد؛ در نتیجه عملکرد مدل در کارهایی که به استدلال بلندمدت نیاز دارند حفظ میشود. در مدل Qwen3 با 14 میلیارد پارامتر، LayerTrim مرحله پیشپرکردن را 1.24 برابر سریعتر میکند و در مقایسه با مدل هرسنشده، اوج مصرف حافظه GPU را 19.7 درصد کاهش میدهد. این روش در سه مدل و پنج بنچمارک، دقت میانگین را نسبت به روش پیشین RESP تا 21.4 امتیاز افزایش داد.
چرا مهم است
توسعهدهندگان میتوانند مدلهای زبانی کوچکتر و سریعتری را برای کارهای استدلالی بهکار بگیرند، بیآنکه هزینه آموزش مجدد را بپردازند.