Oossa

نسخه b12322 از llama.cpp مصرف حافظه را کاهش می‌دهد

کتابخانه متن‌باز اجرای LLaMA در 12 Nov 2026 به‌روزرسانی شد تا فراداده‌های گرافِ بدون استفاده را بارگذاری نکند و در مصرف RAM صرفه‌جویی شود.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org در 12 Nov 2026 برچسب b12322 را برای llama.cpp منتشر کرد. این تغییر نحوه رزرو فراداده برای نتایج گراف را اصلاح می‌کند و به‌جای آماده‌سازی کل فضای رزروشده، فقط صفحه‌های موردنیاز را اختصاص می‌دهد. در نتیجه، میزان RAM مورد استفاده کتابخانه هنگام اجرای مدل کاهش می‌یابد.

این به‌روزرسانی برای همه پلتفرم‌های فهرست‌شده، از پردازنده‌های macOS و Windows گرفته تا نسخه‌های Linux مبتنی بر CUDA، Vulkan و OpenVINO، در دسترس است.

چرا مهم است

توسعه‌دهندگانی که مدل‌های LLaMA را روی دستگاه‌های دارای حافظه محدود اجرا می‌کنند، RAM کمتری مصرف خواهند کرد و می‌توانند از مدل‌های بزرگ‌تر استفاده کنند یا هم‌زمان کارهای بیشتری انجام دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.