Teamet bakom ggml-org publicerade llama.cpp version b11790 den 21 okt. 2026. Uppdateringen lägger till neonoptimerad ompackning för Q4_0-kvantisering och trådad hantering av andra typer, vilket förbättrar prestandan på ARM-processorer. Förkompilerade binärfiler finns nu för macOS med Apple Silicon, iOS och flera Linux-versioner för ARM. Ändringarna har tagits fram tillsammans med en Qualcomm-ingenjör. Versionen innehåller även Vulkan-byggen för Linux x64 och arm64.
Varför det spelar roll
ARM-baserade bärbara datorer och telefoner kan köra Llama-modeller snabbare, vilket gör lokal AI-användning mer praktisk.
