ggml‑org ekibi llama.cpp’nin b11757 sürümünü yayımladı. Güncelleme, eski bellek havuzu boşaltıldıktan sonra CUDA grafiklerini temizleyerek GPU bellek sızıntılarını azaltmayı amaçlıyor. Apple Silicon macOS, Intel macOS ve iOS’un yanı sıra çeşitli Ubuntu sürümleri (CPU, Vulkan ve CUDA 12.8) için önceden derlenmiş ikili dosyalar artık kullanılabilir. Sürüm GitHub’da yayımlandı.
Neden önemli
Düzeltme sayesinde Llama modellerini Nvidia GPU’larda çalıştıran geliştiriciler daha az bellek yetersizliği hatasıyla karşılaşacak.
