Oossa

llama.cpp b11792, veriyi GPU’da tutma desteği ekliyor

Açık kaynaklı LLM çalışma ortamının yeni sürümü, yeni ikili dosyalar ve verilerin GPU’da daha uzun süre kalmasını sağlayan bir optimizasyon sunuyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml‑org ekibi, llama.cpp’nin b11792 sürümünü 2026‑10‑21’de yayımladı. Güncelleme, verilerin GPU’da kalabilmesini sağlayarak GPU kullananlar için hızı artıran bir değişiklikle set_rows çağrısını güncelliyor. macOS Apple Silicon, macOS Intel, iOS ve Ubuntu’nun çeşitli sürümleri (CPU, Vulkan, CUDA 12.8) için önceden derlenmiş ikili dosyalar artık kullanılabilir. Sürüm bağlantıları GitHub etiket sayfasında paylaşıldı.

Değişiklik, sürüm notlarında “d2t’yi GPU’da kalabilmesi için set_rows kullanımının yanına yerleştir (#30912)” şeklinde listeleniyor.

Neden önemli

Geliştiriciler, ek veri aktarımına gerek kalmadan uyumlu GPU’larda Llama modellerini daha hızlı çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.