Oossa

llama.cpp voegt CUDA-kernel voor SSM-convolutie met grootte 7 toe

Versie b11770 van ggml-org/llama.cpp introduceert een nieuwe CUDA-kernel voor SSM-convolutie en biedt nieuwe binaries voor macOS, iOS en Linux.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

De opensourcebibliotheek llama.cpp heeft op 21 oktober 2026 versie b11770 uitgebracht. De update voegt een CUDA-kernel toe die SSM-convolutie (state-space model) met een breedte van 7 ondersteunt. Er zijn nu nieuwe kant-en-klare binaries beschikbaar voor Apple Silicon, Intel-macs, iOS en verschillende Ubuntu-builds, waaronder versies voor CPU, Vulkan en CUDA 12.8.

Waarom het ertoe doet

Dankzij de nieuwe kernel kunnen ontwikkelaars grotere SSM-modellen sneller uitvoeren op Nvidia-gpu's.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.