Oossa

LayerTrim مدل‌ها را بدون آموزش هرس می‌کند و توانایی استدلال را حفظ می‌کند

روش جدید LayerTrim بخش‌هایی از MLP در لایه‌های رمزگشا را حذف می‌کند؛ این روش سرعت Qwen3‑14B را 1.24× افزایش می‌دهد و مصرف حافظه را 19.7% کاهش می‌دهد، بی‌آنکه استدلال بلندمدت را مختل کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پژوهشگران LayerTrim را معرفی کردند؛ روشی ساختاریافته برای هرس مدل‌های زبانی بزرگ که به آموزش مجدد نیاز ندارد. این روش لایه‌های رمزگشای اضافی را حذف می‌کند، اما سازوکارهای توجه را دست‌نخورده نگه می‌دارد؛ در نتیجه عملکرد مدل در کارهایی که به استدلال بلندمدت نیاز دارند حفظ می‌شود. در مدل Qwen3 با 14 میلیارد پارامتر، LayerTrim مرحله پیش‌پرکردن را 1.24 برابر سریع‌تر می‌کند و در مقایسه با مدل هرس‌نشده، اوج مصرف حافظه GPU را 19.7 درصد کاهش می‌دهد. این روش در سه مدل و پنج بنچمارک، دقت میانگین را نسبت به روش پیشین RESP تا 21.4 امتیاز افزایش داد.

چرا مهم است

توسعه‌دهندگان می‌توانند مدل‌های زبانی کوچک‌تر و سریع‌تری را برای کارهای استدلالی به‌کار بگیرند، بی‌آنکه هزینه آموزش مجدد را بپردازند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.