ggml-org ekibi, llama.cpp’nin b11784 sürümünü yayımladı. Sürüm, Sycl iq3 arka ucundaki bir çökme sorununu gideriyor. Apple Silicon ve Intel Mac’ler, iOS ve Vulkan ile CUDA 12.8 dâhil çeşitli Ubuntu yapılandırmaları için önceden derlenmiş ikili dosyalar sunuyor. Bu dosyalar GitHub sürüm sayfasından indirilebiliyor.
Neden önemli
Geliştiriciler artık llama.cpp’yi daha fazla donanımda çökme sorunu yaşamadan çalıştırabilir; böylece yerel LLM çıkarımına erişim genişler.