# llama.cpp aggiunge nuovi kernel OpenCL per batch ridotti

> La libreria open source per l’inferenza di Llama include ora diverse varianti GEMM OpenCL ottimizzate per esecuzioni con batch ridotti, ampliando il supporto alle GPU Snapdragon.

Oossa · 2026-10-20 · https://oossa.com/it/llama-cpp-adds-new-opencl-kernels-for-small-batch-workloads

Il progetto ggml‑org/llama.cpp ha pubblicato un aggiornamento (b11763) il 2026‑10‑21. L’aggiornamento aggiunge alcuni kernel OpenCL che velocizzano le moltiplicazioni di matrici con batch ridotti, tra cui q4_k dp4a GEMM e una variante ristretta di mul_mm_f16_f32. Le modifiche correggono anche un bug di lettura fuori dai limiti e rimuovono un controllo non necessario che attivava il fallback sulla CPU. La libreria funziona già su molte piattaforme, da macOS con Apple Silicon a Windows con CUDA e Linux con Vulkan, e ora offre un supporto migliore per CPU Snapdragon, GPU Adreno e NPU Hexagon.

## I fatti

- Aggiunte diverse varianti GEMM OpenCL per batch ridotti (per esempio, q4_k dp4a e mul_mm_f16_f32).
- Data di rilascio: 2026‑10‑21.

## Perché conta

Gli sviluppatori possono eseguire i modelli Llama più velocemente sui dispositivi Android con chip Snapdragon, rendendo più praticabile l’IA direttamente sul dispositivo.

## Fonti e riferimenti

1. [ggml-org/llama.cpp b11763](https://github.com/ggml-org/llama.cpp/releases/tag/b11763) – llama.cpp, 2026-10-20

Ultimo aggiornamento: 2026-10-20