Oossa

llama.cpp b11510, daha büyük tensörler için CUDA desteği ekliyor

Açık kaynaklı LLaMA çıkarım kütüphanesinin b11510 sürümü, 65.535’ten fazla satırı işleyebilen yeni bir CUDA çekirdeği ve macOS, iOS ile Linux için hazır ikili dosyalarla yayımlandı.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org ekibi, llama.cpp’nin b11510 sürümünü 8 Ekim 2026’da yayımladı. Sürüm, kütüphanenin 65.000’den fazla satır veya dilim içeren tensörleri işleyebilmesi için CUDA’ya döngülü bir PAD çekirdeği ekliyor. Ayrıca Apple Silicon, Intel macOS, iOS ve Ubuntu’nun çeşitli sürümleri (CPU, Vulkan ve CUDA 12.8) için önceden derlenmiş ikili dosyalar sunuyor. Kod ve doğrulama belgelerine GitHub sayfasından ulaşılabiliyor.

Neden önemli

Geliştiriciler artık önceki satır sınırına takılmadan NVIDIA GPU’larda daha büyük dil modellerini çalıştırabiliyor.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.