Açık kaynaklı llama.cpp kütüphanesi, b11680 sürümünü 16 Oct 2026'da yayımladı. Güncelleme, Hexagon NPU kodunu baştan ele alıyor: bir hileyi kaldırıyor, F16/F32/BF16 ağırlıkları için tensor yeniden paketleme ekliyor ve tiled Q5_K get-rows ile ham k-quant tensor’larını destekliyor. Değişiklikler ayrıca birçok dahili kernel’i sadeleştiriyor ve CPU, CUDA, Vulkan ile Hexagon destekli cihazlar dahil çeşitli arka uçlardaki performansı artırıyor. Projede macOS, Linux, Android, Windows ve çeşitli openEuler yapılandırmaları için derlemeler listeleniyor.
Neden önemli
Geliştiriciler artık llama.cpp modellerini Hexagon işlemcili telefonlarda ve diğer özel donanımlarda daha verimli çalıştırabilir.
