Oossa

llama.cpp ripristina la velocità FP16→FP32 sui processori Intel

La versione b11635 del 15 ottobre 2026 mantiene la tabella di conversione FP16→FP32 su x86 e risolve un rallentamento nei kernel quantizzati.

BreveDi Pubblicato da Oossa: 1 min di lettura

La libreria open source llama.cpp ha pubblicato la versione b11635 il 2026-10-15. La modifica mantiene la tabella di conversione FP16→FP32 nel codice CPU sui processori x86 che supportano il set di istruzioni F16C. La modifica precedente instradava entrambe le conversioni scalari tramite F16C, rallentando del 45-65 % i kernel di moltiplicazione di matrici Q8_0/Q4_0. La nuova correzione commenta la definizione problematica e ripristina la tabella originale per le conversioni da FP16 a FP32.

Perché conta

Gli sviluppatori che usano llama.cpp su CPU Intel otterranno un’inferenza dei modelli sensibilmente più veloce dopo l’aggiornamento.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.