# llama.cpp accelera il prefill quantizzato sulle GPU Intel Arc

> La versione b11979 introduce modifiche alla dequantizzazione SYCL che hanno migliorato la velocità di prefill nei test su Intel Arc Pro B70, senza variazioni nella decodifica.

Oossa · 2026-10-29 · https://oossa.com/it/llama-cpp-speeds-up-quantized-prefill-on-intel-arc-gpus

La versione b11979 di ggml-org/llama.cpp modifica il modo in cui i kernel SYCL convertono diversi formati di modelli quantizzati sulle GPU Intel. Su una Arc Pro B70, il progetto ha rilevato un prefill più rapido — cioè l’elaborazione del testo del prompt — quando i tensori utilizzavano un layout riordinato; i miglioramenti variano a seconda del formato e del modello.

Il miglioramento più consistente riportato per questo percorso è stato del 28.7% per un modello Q6_K da 27 miliardi di parametri. Nei modelli mixture-of-experts MXFP4, il prefill è migliorato dal 57% al 61% nel test riportato, anche con un layout nuovo; la velocità di decodifica è rimasta invariata. Le misurazioni sono state riportate dal progetto e i risultati di perplexity sono rimasti invariati o entro la variabilità tra un’esecuzione e l’altra.

## I fatti

- llama.cpp b11979 riporta un miglioramento del prefill del 28.7% per un modello Q6_K da 27B su Arc Pro B70.
- Il prefill dei modelli MXFP4 MoE è migliorato del 57% a pp2048 e del 61% a pp512; la decodifica è rimasta invariata.

## Perché conta

Chi usa questi formati di modello su Intel Arc Pro B70 potrebbe impiegare meno tempo a elaborare i prompt. I miglioramenti dipendono però dal modello e dal layout e non accelerano la decodifica.

## Fonti e riferimenti

1. [ggml-org/llama.cpp b11979](https://github.com/ggml-org/llama.cpp/releases/tag/b11979) – llama.cpp, 2026-10-29

Ultimo aggiornamento: 2026-10-29