Il progetto ggml‑org/llama.cpp ha pubblicato un aggiornamento (b11763) il 2026‑10‑21. L’aggiornamento aggiunge alcuni kernel OpenCL che velocizzano le moltiplicazioni di matrici con batch ridotti, tra cui q4_k dp4a GEMM e una variante ristretta di mul_mm_f16_f32. Le modifiche correggono anche un bug di lettura fuori dai limiti e rimuovono un controllo non necessario che attivava il fallback sulla CPU. La libreria funziona già su molte piattaforme, da macOS con Apple Silicon a Windows con CUDA e Linux con Vulkan, e ora offre un supporto migliore per CPU Snapdragon, GPU Adreno e NPU Hexagon.
Perché conta
Gli sviluppatori possono eseguire i modelli Llama più velocemente sui dispositivi Android con chip Snapdragon, rendendo più praticabile l’IA direttamente sul dispositivo.
