Açık kaynaklı llama.cpp kütüphanesinin b11632 sürümü 15 Ekim 2026’da yayımlandı. Güncelleme, GPU desteğini iyileştirmek için hem CUDA hem de HIP’e yönelik parçalı bir GDN (Gaussian-Diffusion-Normalization) çekirdeği ekliyor. Doğruluk ve prefill kıyaslama testlerinin ardından, RTX 3090 ve RTX 4090 dâhil test edilen Ampere ve Ada GPU’larda SM86 ve SM89 komut kümeleri etkinleştirildi. Eski derlemelerdeki sorunlar giderilirken GDN MMA (matris çarpımı-birikimi) aşamasında kullanılan kod da yeniden düzenlenmiş bir swizzle API’sine geçirildi.
Neden önemli
Geliştiriciler, yeni Nvidia GPU’larda llama.cpp ile daha hızlı ve güvenilir çıkarım yapabilecek.