ggml-org ekibi, llama.cpp'nin b11777 sürümünü yayımladı. Güncelleme, Qwen modellerinin çıktısını 3 boyutlu tensörden 2 boyutlu tensöre dönüştürerek gereksiz son yeniden biçimlendirme adımını kaldırıyor. Sürümde ayrıca macOS (Apple Silicon ve Intel), iOS ve Vulkan ile CUDA seçenekleri de sunan çeşitli Ubuntu derlemeleri için kullanıma hazır ikililer bulunuyor.
Neden önemli
Geliştiriciler yeni ikilileri indirerek kaynak koddan derleme yapmadan daha fazla cihazda yerel LLM'leri çalıştırabilir.