Il team di ggml-org ha rilasciato la versione b11759 di llama.cpp il 20 ott 2026. L’aggiornamento aggiunge un’operazione flash attention (fattn) al backend ggml-zdnn e sostituisce gli slot scratch con un pool di buffer scratch. La modifica è stata approvata dal collaboratore Aaron Teo. Flash attention accelera il calcolo dell’attenzione utilizzato dai modelli linguistici di grandi dimensioni.
Perché conta
Flash attention può ridurre i tempi di inferenza per chi usa llama.cpp in locale, rendendo più veloci i modelli conversazionali.
