Oossa

llama.cpp, CUDA ve HIP için parçalı GDN çekirdeği ekledi

15 Ekim 2026 tarihli b11632 sürümü, CUDA ve HIP için parçalı bir GDN çekirdeği sunuyor ve RTX 3090 ile RTX 4090 GPU’larda SM86/SM89 desteğini etkinleştiriyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

Açık kaynaklı llama.cpp kütüphanesinin b11632 sürümü 15 Ekim 2026’da yayımlandı. Güncelleme, GPU desteğini iyileştirmek için hem CUDA hem de HIP’e yönelik parçalı bir GDN (Gaussian-Diffusion-Normalization) çekirdeği ekliyor. Doğruluk ve prefill kıyaslama testlerinin ardından, RTX 3090 ve RTX 4090 dâhil test edilen Ampere ve Ada GPU’larda SM86 ve SM89 komut kümeleri etkinleştirildi. Eski derlemelerdeki sorunlar giderilirken GDN MMA (matris çarpımı-birikimi) aşamasında kullanılan kod da yeniden düzenlenmiş bir swizzle API’sine geçirildi.

Neden önemli

Geliştiriciler, yeni Nvidia GPU’larda llama.cpp ile daha hızlı ve güvenilir çıkarım yapabilecek.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.