Oossa

llama.cpp, b11786 sürümünde CPU GELU işlemlerini hızlandırdı

Açık kaynaklı LLM çalışma zamanı, GELU işlevlerini arama tablosu kullanmadan tam hassasiyetle hesaplamak için CPU matematiğini güncelledi.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org/llama.cpp projesi, b11786 sürümünü 2026-10-21 tarihinde yayımladı. Güncelleme, f32 gelu_quick ve geglu_quick işlevlerini doğrudan hesaplayan yeni CPU çekirdekleri ekleyerek fp16 arama tablosuna duyulan ihtiyacı ortadan kaldırıyor. Bu çekirdekler için testler de eklendi; eski inf/nan test senaryoları ise kaldırıldı. macOS, iOS ve çeşitli Linux sürümleri için önceden derlenmiş ikili dosyalar artık indirilebilir.

Neden önemli

Yeni çekirdekler daha yavaş olan arama tablosunu devre dışı bıraktığı için geliştiriciler LLM’leri CPU’larda daha hızlı çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.