ggml-org ekibi llama.cpp b11806 sürümünü yayımladı. Sürüm, daha verimli ince ayar için kullanılan bir teknik olan prism.hadamard katlanmış ağırlıklar için LoRA desteği ekliyor. Ayrıca Apple Silicon, Intel Mac'ler, iOS ve CPU, Vulkan ve CUDA seçenekleri dâhil çeşitli Linux sürümleri için önceden derlenmiş ikililer sunuyor. Kullanıcılar uygun paketi GitHub sürüm sayfasından indirebilir.
Neden önemli
Geliştiriciler, kodu kendileri derlemek zorunda kalmadan LoRA ile ince ayar yapılmış modelleri daha fazla platformda artık daha hızlı çalıştırabilir.
