Teamet bakom ggml-org publicerade llama.cpp-versionen b11580 den 13 okt. 2026. Uppdateringen utökar stödet för skalär DMA (direkt minnesåtkomst) vid binära operationer och innehåller nya kärnor för upprepning och komplexa data. Den rensar också upp i sökvägar utan DMA och lägger till stöd för icke-sammanhängande steg. Ändringarna berör byggen för CPU, CUDA, Vulkan och Hexagon NPU på Linux, Windows, macOS och Android. Utvecklare kan nu utföra tensorberäkningar effektivare på enheter från Apple Silicon till Snapdragon-chip.
Varför det spelar roll
Utvecklare kan köra llama.cpp-modeller snabbare på fler typer av hårdvara, vilket minskar inferenstiden för slutanvändare.