# llama.cpp riordina i pesi SYCL per velocizzare IQ3

> La libreria open source llama.cpp ora riordina al caricamento i pesi IQ3_S e IQ3_XXS, aumentando il throughput dei token sulle GPU Intel Arc.

Oossa · 2026-10-15 · https://oossa.com/it/llama-cpp-adds-sycl-weight-reorder-for-faster-iq3-inference

Il progetto llama.cpp ha rilasciato la versione b11636 il 2026-10-15. La versione introduce un layout persistente dei pesi per le quantizzazioni IQ3_S e IQ3_XXS in esecuzione con SYCL. I pesi vengono riordinati una sola volta, al caricamento del modello, così la GPU può elaborare blocchi densi invece di raccogliere singoli bit: questo accelera la decodifica e il prefill. Sulla GPU Intel Arc Pro B70, il modello Qwen3.8‑27B ha aumentato la velocità da 12.92 a 23.54 token al secondo con prompt brevi, con un incremento dell’82 %.

## I fatti

- Data di rilascio: 2026-10-15 ("Thu Oct 15 2026 06:50:37 GMT+0200")
- La velocità dei token su Intel Arc Pro B70 è passata da 12.92 t/s a 23.54 t/s (+82 %) per IQ3_S

## Perché conta

Gli sviluppatori che usano llama.cpp su GPU compatibili con SYCL possono ottenere risposte sensibilmente più rapide senza modificare il codice del modello.

## Fonti e riferimenti

1. [ggml-org/llama.cpp b11636](https://github.com/ggml-org/llama.cpp/releases/tag/b11636) – llama.cpp, 2026-10-15

Ultimo aggiornamento: 2026-10-15