La version b11868 de ggml-org/llama.cpp modifie la gestion de l’attention flash HMX multicœur sur Hexagon. Elle remplace les options distinctes `FA_HEAD_SPLIT` et `FA_SPLIT` par un seul indicateur, `GGML_HEXAGON_FA_SPLIT`.
Lorsque l’indicateur est réglé sur 1, le travail peut être réparti entre les têtes KV et, si celles-ci sont moins nombreuses que les cœurs, entre plusieurs équipes afin que les cœurs autrement inactifs puissent participer. La version cite l’exemple de Gemma 4, qui compte deux têtes KV pour quatre cœurs.
Pourquoi c'est important
Pour les personnes qui utilisent llama.cpp sur du matériel Hexagon, ce changement vise à faire participer les cœurs lorsqu’un modèle compte moins de têtes KV que de cœurs. Les notes de version ne chiffrent aucun gain de vitesse.
