Oossa

llama.cpp, Hexagon hızlandırmalı softplus işlemini ekledi

Açık kaynaklı llama.cpp kütüphanesi artık desteklenen Android cihazlarda softplus aktivasyonunu Qualcomm Hexagon NPU üzerinde çalıştırıyor; bu da performansı artırıyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

llama.cpp projesi, b11703 sürümünü 17 Ekim 2026'da yayımladı. Sürüm, Qualcomm’un Hexagon NPU’sunda (HVX) çalışan vektörleştirilmiş bir softplus işlevi ekliyor. Yeni yardımcı işlev, exp ve log için mevcut Hexagon temel işlemlerini kullanıyor; böylece matematiksel işlem CPU sürümüyle aynı kalıyor. Değişiklik, Snapdragon CPU’ları, Adreno GPU’ları ve Hexagon NPU’larını destekleyen Android arm64 derlemesi kapsamında listeleniyor.

Neden önemli

Geliştiriciler artık Hexagon NPU’lu telefonlarda LLM çıkarımını daha hızlı çalıştırabilir; böylece llama.cpp’nin düşük güç tüketimli kullanım alanları genişler.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.