ggml-org, birçok cihazda çalışan hafif LLM çalıştırıcısı llama.cpp’nin b11539 sürümünü yayımladı. macOS Apple Silicon, macOS Intel ve iOS XCFramework için yeni ikili dosya arşivlerinin yanı sıra CPU, Vulkan ve CUDA 12.8 seçeneklerini kapsayan çeşitli Ubuntu derlemeleri de sunuluyor. İndirme bağlantıları GitHub sürüm sayfasında yer alıyor.
Neden önemli
Geliştiriciler artık llama.cpp’yi kendileri derlemek zorunda kalmadan daha fazla donanımda yerel olarak çalıştırabilir.