Oossa

llama.cpp b11723, daha uzun bağlam desteği ekliyor

Açık kaynaklı llama.cpp kütüphanesinin b11723 sürümü, CPU ve Vulkan’da uzun bağlamlı çıkarımı hızlandıran hexagon FLASH_ATTN_EXT iyileştirmeleriyle yayımlandı.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org ekibi, llama.cpp’nin b11723 sürümünü 19 Ekim 2026’da yayımladı. Güncelleme, daha uzun bağlam pencereleri ve SWA modelleri için FLASH_ATTN_EXT iyileştirmelerinin yanı sıra bellek erişimini azaltmak üzere maskelenmiş blokları atlama özelliği getiriyor. Artık macOS (Apple Silicon ve Intel), iOS ve Vulkan GPU desteği içeren çeşitli Ubuntu sürümleri için ikili derlemeler de mevcut. Değişiklikler, gemma-4 gibi modellerin performansını artırmayı amaçlıyor.

Neden önemli

Geliştiriciler, uzun bağlamlı daha büyük LLM’leri masaüstü CPU’larda ve uyumlu GPU’larda daha verimli çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.