Das Release llama.cpp b11913 des ggml-org-Teams bietet eine konfigurierbare Größenüberschreibung für VTCM, eine vom Hexagon-Backend genutzte Speicherressource. Die Einstellung heißt `GGML_HEXAGON_VTCM_SIZE` und akzeptiert die Suffixe K, M oder G.
Laut den Release Notes wurde eine vorgeschlagene Obergrenze namens `NTHREADS` später wieder verworfen. Die Notes nennen weder eine Standardgröße für VTCM noch erklären sie, wie sich die Änderung auf die Leistung auswirkt.
Warum es wichtig ist
Wer llama.cpp mit Hexagon-Hardware nutzt, kann die VTCM-Größe überschreiben. Die Release Notes sagen jedoch nicht, welchen Wert man wählen sollte oder ob sich dadurch die Leistung verbessert.
