Açık kaynaklı llama.cpp kütüphanesinin 2026-10-18’de yayımlanan yeni sürümü, kesintisiz olmayan SUM desteği ekliyor. Bu değişiklik CPU, CUDA, Vulkan ve WebGPU arka uçlarında çalışıyor; test paketine de bu görünümleri kapsayan örnekler eklendi. Güncelleme ayrıca macOS, Linux, Android ve Windows için önceden derlenmiş ikili dosyaların kapsamını genişletiyor. Apple Silicon, Intel, AMD, NVIDIA CUDA 12/13 ve Snapdragon NPU gibi pek çok donanım bileşimi destekleniyor. İndirme bağlantıları proje web sitesinde ve doğrulama belgelerinde yer alıyor.
Neden önemli
Geliştiriciler artık daha fazla cihazda daha hızlı ve bellek açısından verimli toplama işlemleri gerçekleştirebilir; bu da LLM çıkarım hatlarının performansını artırır.
