La versión b11868 de ggml-org/llama.cpp cambia el manejo de flash attention multinúcleo HMX en Hexagon. Sustituye los ajustes independientes `FA_HEAD_SPLIT` y `FA_SPLIT` por una sola opción: `GGML_HEXAGON_FA_SPLIT`.
Con la opción en 1, el trabajo puede dividirse entre las cabezas KV y, cuando hay menos cabezas KV que núcleos, entre equipos, para que también participen los núcleos que de otro modo quedarían inactivos. La versión pone como ejemplo Gemma 4, con dos cabezas KV en cuatro núcleos.
Por qué importa
Para quienes ejecutan llama.cpp en hardware Hexagon, el cambio busca que los núcleos participen cuando un modelo tiene menos cabezas KV que núcleos; las notas de la versión no cuantifican ninguna mejora de velocidad.
