ggml-org/llama.cpp projesi, 30 Eylül 2026'da b11272 etiketli bir ön sürüm yayımladı. Sürüm, dil modeli çıkarımında sık kullanılan bir adım olan birleştirme (concat) işlemi için Hexagon'a özel bir optimizasyon ekliyor. Değişiklik, paket yükünü azaltıyor ve daha hızlı bir bölme yordamı kullanarak verileri taşıyan yoğun döngüyü hızlandırıyor. Güncelleme, Hexagon NPU'lara sahip Android Snapdragon cihazları da dahil olmak üzere birçok platform için hazırlanan daha geniş kapsamlı derlemelerin bir parçası.
Neden önemli
Snapdragon telefonlarda LLM çalıştırmayı belirgin biçimde hızlandırarak cihaz üzerindeki yapay zekâ görevlerinde gecikmeyi azaltıyor.
