La version b11913 de llama.cpp, publiée par l’équipe ggml-org, ajoute un paramètre permettant de définir la taille du VTCM, une ressource mémoire utilisée par le backend Hexagon. Le paramètre s’appelle `GGML_HEXAGON_VTCM_SIZE` et accepte les suffixes K, M ou G.
Les notes de version indiquent également qu’une limite proposée pour `NTHREADS` a ensuite été abandonnée. Elles ne précisent ni la taille du VTCM par défaut ni l’incidence de ce changement sur les performances.
Pourquoi c'est important
Les utilisateurs de llama.cpp avec du matériel Hexagon peuvent remplacer la taille du VTCM, mais les notes de version ne précisent ni quelle valeur choisir ni si cela améliore les performances.
