پروژه ggml‑org/llama.cpp نسخه b12328 را در 2026-11-12 منتشر کرد. این به‌روزرسانی باعث می‌شود بک‌اند فقط ورودی‌هایی را پیش‌واکشی کند که در تقسیم‌بندی‌های قبلی محاسبه شده‌اند؛ در نتیجه از خواندن تانسورهایی که قرار است بعداً بازنویسی شوند جلوگیری می‌شود. همچنین قابلیتی اضافه شده که اگر دستگاه فعلی نتواند عملیات ذخیره‌شده در کش MoE (ترکیب متخصص‌ها) را اجرا کند، این کش را کنار می‌گذارد و از کپی غیرضروری داده‌ها جلوگیری می‌کند.
چرا مهم است
توسعه‌دهندگان می‌توانند انتظار داشته باشند که روی سخت‌افزاری که از بارهای کاری MoE پشتیبانی نمی‌کند، ترافیک حافظه کمتر و استنتاج سریع‌تر شود.
