Het ggml-org-team bracht op 21 okt. 2026 llama.cpp versie b11790 uit. De update voegt neon-gevectoriseerde repack toe voor Q4_0-quantisatie en multithreading voor andere typen, wat de prestaties op ARM-processors verbetert. Er zijn nu vooraf gebouwde binaries beschikbaar voor macOS op Apple Silicon, iOS en diverse Linux-builds voor ARM. Een Qualcomm-ingenieur werkte mee aan de wijzigingen. De release bevat ook Vulkan-builds voor Linux x64 en arm64.
Waarom het ertoe doet
Laptops en telefoons met ARM-processors kunnen Llama-modellen sneller uitvoeren, waardoor lokaal gebruik van AI praktischer wordt.