ggml‑org ekibi, llama.cpp’nin b11413 sürümünü 5 Ekim 2026’da yayımladı. Güncelleme, kuantize anahtar/değer tensörleriyle çalışan bir Vulkan seyrek flash attention uygulaması ekliyor. Değişiklik, “kuantize K/V için seyrek flash attention” olarak tanımlanıyor ve GPU hızlandırmalı çıkarım için tasarlandı. Sürümde ayrıca Apple Silicon’lı macOS’tan CUDA ve Vulkan destekli Windows’a kadar pek çok platform için derlemeler listeleniyor.
Neden önemli
Geliştiriciler artık Vulkan destekli GPU’larda kuantize modelleri daha hızlı çalıştırabilir; bu da uç cihazlardaki hesaplama maliyetini düşürür.
