Det öppna biblioteket llama.cpp släppte version b11680 den 16 oktober 2026. Uppdateringen gör om koden för Hexagon-NPU:er, tar bort en nödlösning, lägger till tensorompackning för F16/F32/BF16-vikter och stöder tiled Q5_K get-rows och råa k-quant-tensorer. Ändringarna rensar också upp i många interna kärnor och förbättrar prestandan på flera bakändar, däribland CPU, CUDA, Vulkan och enheter med stöd för Hexagon. Projektet listar byggen för macOS, Linux, Android, Windows och flera openEuler-konfigurationer.
Varför det spelar roll
Utvecklare kan nu köra llama.cpp-modeller effektivare på telefoner med Hexagon och annan specialiserad hårdvara.
