llama.cpp projesi, b11642 sürümünü 2026-10-15’te yayımladı. Sürüm, sunucunun istem önbelleği yuvalarını saklama biçimini değiştiriyor. Daha sonra geri yüklenebilecek yuvalar tutuluyor; böylece yeniden sıralama, gömme, karar verme ve infill görevlerinde kullanılmayan yuvalar önbelleği doldurmuyor. Karar verme görevleri, --cache-ram bayrağı kullanılmadığı sürece artık önbelleği tamamen devre dışı bırakıyor. Bu değişiklik RAM kullanımını azaltıyor ve gereksiz önbellek hareketliliğini önlüyor.
Neden önemli
llama.cpp’yi donanım kaynakları kısıtlı sistemlerde çalıştıran geliştiriciler, daha düşük bellek kullanımı ve önbellekle ilgili daha az yavaşlama görecek.