Oossa

llama.cpp b11723 améliore FLASH_ATTN_EXT pour les longs contextes

La bibliothèque open source llama.cpp passe en version b11723. Ses optimisations hexagon de FLASH_ATTN_EXT accélèrent l’inférence sur de longs contextes, sur CPU et Vulkan.

BrèvePar Publié par Oossa: 1 min de lecture

L’équipe ggml-org a publié llama.cpp version b11723 le 19 oct. 2026. La mise à jour apporte des améliorations à FLASH_ATTN_EXT pour les fenêtres de contexte plus longues et les modèles SWA, ainsi que le saut de blocs masqués pour réduire les accès mémoire. Des versions binaires sont désormais disponibles pour macOS (Apple Silicon et Intel), iOS et plusieurs variantes d’Ubuntu, avec notamment la prise en charge des GPU Vulkan. Ces changements visent à améliorer les performances de modèles comme gemma-4.

Pourquoi c'est important

Les développeurs peuvent exécuter plus efficacement des LLM à grand contexte sur des CPU de bureau et des GPU compatibles.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.