# llama.cpp ottimizza la dequantizzazione della cache KV su Vulkan

> La libreria open source llama.cpp supporta ora la cache key-value dequantizzata sulle GPU Vulkan, con un aumento della velocità per alcune teste dei modelli.

Oossa · 2026-11-11 · https://oossa.com/it/llama-cpp-adds-vulkan-kv-dequantization-optimization

Il team ggml-org ha rilasciato la versione b12291 di llama.cpp. L’aggiornamento introduce un’ottimizzazione basata su Vulkan che dequantizza la cache key-value usando l’istruzione coopmat2. La modifica viene applicata solo quando un’euristica basata sui token di query e sul rapporto GQA la considera sicura. L’aggiornamento corregge inoltre la gestione dell’allineamento per alcune dimensioni delle teste, migliorando le prestazioni nei casi in cui non è possibile usare l’ottimizzazione.

## I fatti

- Il tag di rilascio b12291 è stato pubblicato l’11-11-2026
- Aggiunge un’ottimizzazione per la dequantizzazione della cache KV sulle GPU Vulkan

## Perché conta

Gli sviluppatori che eseguono modelli Llama su hardware compatibile con Vulkan possono ottenere inferenze più rapide senza modificare il codice.

## Fonti e riferimenti

1. [ggml-org/llama.cpp b12291](https://github.com/ggml-org/llama.cpp/releases/tag/b12291) – llama.cpp, 2026-11-11

Ultimo aggiornamento: 2026-11-11