ggml-org ekibi llama.cpp’nin b11795 sürümünü yayımladı. Güncellemeyle sunucu, örnekleme parametrelerinin /v1/messages uç noktasındaki extra_params alanında değiştirilmeden iletilmesini sağlıyor. Ayrıca macOS (Apple Silicon ve Intel), iOS ve Ubuntu için CPU ve Vulkan destekli çeşitli önceden derlenmiş ikili dosyalar ekleniyor.
Neden önemli
Geliştiriciler artık ek kod yazmadan API üzerinden üretim ayarlarını özelleştirebilir; böylece llama.cpp’yi uygulamalara entegre etmek kolaylaşır.