Het team van ggml-org publiceerde op 13 okt. 2026 llama.cpp-release b11580. De update voegt uitgebreide ondersteuning voor scalaire DMA (directe geheugentoegang) toe aan binaire bewerkingen, waaronder nieuwe kernels voor herhalingen en complexe data. Ook zijn niet-DMA-paden opgeschoond en is ondersteuning toegevoegd voor niet-aaneengesloten strides. De wijzigingen gelden voor builds voor CPU, CUDA, Vulkan en Hexagon NPU op Linux, Windows, macOS en Android. Ontwikkelaars kunnen nu efficiëntere tensorberekeningen uitvoeren op apparaten van Apple Silicon tot Snapdragon-chips.
Waarom het ertoe doet
Ontwikkelaars kunnen llama.cpp-modellen sneller gebruiken op een grotere verscheidenheid aan hardware, waardoor de inferentietijd voor eindgebruikers afneemt.