پروژهٔ llama.cpp در 2026-10-15 نسخهٔ b11642 را منتشر کرد. این نسخه شیوهٔ ذخیره‌سازی اسلات‌های کش پرامپت در سرور را تغییر می‌دهد. فقط اسلات‌هایی ذخیره می‌شوند که بعداً بتوان آن‌ها را بازیابی کرد؛ بنابراین اسلات‌های بلااستفادهٔ مربوط به وظایف رتبه‌بندی مجدد، تعبیه‌سازی، تصمیم‌گیری و تکمیل متن دیگر فضای کش را اشغال نمی‌کنند. وظایف تصمیم‌گیری اکنون به‌طور کامل از کش صرف‌نظر می‌کنند، مگر اینکه از پرچم --cache-ram استفاده شود. این تغییر مصرف RAM را کاهش می‌دهد و از جابه‌جایی غیرضروری داده‌ها در کش جلوگیری می‌کند.
چرا مهم است
توسعه‌دهندگانی که llama.cpp را روی سخت‌افزارهای محدود اجرا می‌کنند، با مصرف حافظهٔ کمتر و کندی‌های کمترِ مرتبط با کش روبه‌رو می‌شوند.
