De opensourcebibliotheek llama.cpp heeft op 21 oktober 2026 versie b11770 uitgebracht. De update voegt een CUDA-kernel toe die SSM-convolutie (state-space model) met een breedte van 7 ondersteunt. Er zijn nu nieuwe kant-en-klare binaries beschikbaar voor Apple Silicon, Intel-macs, iOS en verschillende Ubuntu-builds, waaronder versies voor CPU, Vulkan en CUDA 12.8.
Waarom het ertoe doet
Dankzij de nieuwe kernel kunnen ontwikkelaars grotere SSM-modellen sneller uitvoeren op Nvidia-gpu's.