L’équipe ggml‑org a publié llama.cpp version b11759 le 20 Oct 2026. Cette mise à jour ajoute l’opération Flash Attention (fattn) au backend ggml‑zdnn et remplace les emplacements scratch par un pool de tampons scratch. La modification a été validée par le contributeur Aaron Teo. Flash Attention accélère le calcul d’attention utilisé par les grands modèles de langage.
Pourquoi c'est important
Flash Attention peut réduire le temps d’inférence pour les utilisateurs qui exécutent llama.cpp en local et rendre les modèles conversationnels plus réactifs.
