Die Open-Source-Bibliothek llama.cpp ist am 21. Okt. 2026 in Version b11770 erschienen. Das Update ergänzt einen CUDA-Kernel, der SSM-Faltungen (State-Space-Modelle) mit einer Breite von 7 unterstützt. Neue vorgefertigte Binärdateien gibt es für Apple Silicon, Intel-Macs, iOS und mehrere Ubuntu-Varianten – darunter Versionen für CPU, Vulkan und CUDA 12.8.
Warum es wichtig ist
Dank des neuen Kernels können Entwickler größere SSM-basierte Modelle auf Nvidia-GPUs schneller ausführen.