ggml-org, llama.cpp’nin b11555 sürümünü yayımladı. Güncelleme, F16C komut seti desteklendiği hâlde AVX2 işlemcilerin bu komut setini kullanmamasına yol açan hatayı gideriyor. Sürüm ayrıca Apple Silicon ve Intel işlemcili Mac’ler ile iOS için yeni ikili paketler sunuyor. Vulkan ve CUDA 12.8 desteği içeren çeşitli Ubuntu yapılandırmaları için de paketler yayımlandı.
Neden önemli
Uyumlu işlemcilerde Llama modellerini çalıştıran geliştiriciler, elle yama uygulamadan daha hızlı çıkarım elde edecek.