ggml-org ekibi llama.cpp’nin b11640 sürümünü yayımladı. Güncelleme, Vulkan arka ucunda matris çarpımı için L2 önbelleğine uygun iş grubu zamanlaması kullanıyor. Ayrıca Apple Silicon, Intel Mac’ler, iOS ve çeşitli Ubuntu sürümleri (CPU, Vulkan ve CUDA 12.8) için yeni önceden derlenmiş ikili dosyalar sunuyor. Kullanıcılar paketleri GitHub sürüm sayfasından indirebilir.
Neden önemli
Bu değişiklik, Vulkan destekli GPU’larda LLaMA modellerinin daha hızlı çalışmasını sağlayabilir; Linux ve Android cihazlarda çalışan geliştiricilere yardımcı olur.
