ggml‑org ekibi, llama.cpp’nin b11759 sürümünü 20 Oct 2026’da yayımladı. Güncelleme, ggml‑zdnn arka ucuna bir flash attention işlemi (fattn) ekliyor ve scratch slotlarının yerini bir scratch buffer havuzuna bırakıyor. Değişiklik, katkıda bulunan Aaron Teo’nun onayını taşıyor. Flash attention, büyük dil modellerinin kullandığı dikkat hesaplamasını hızlandırıyor.
Neden önemli
Flash attention, llama.cpp’yi yerel olarak çalıştıran kullanıcıların çıkarım süresini kısaltabilir ve sohbet odaklı modelleri daha hızlı hissettirebilir.
