Oossa

llama.cpp b11688 versnelt CPU-inferentie met AVX2-aanpassing

De opensourcebibliotheek llama.cpp brengt een nieuwe binary uit met minder getegelde AVX2-accumulators, voor betere prestaties op CPU’s.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het team van ggml-org heeft op 2026-10-16 versie b11688 van llama.cpp uitgebracht. De update bevat een wijziging die alleen voor CPU’s geldt: het aantal getegelde AVX2-accumulators wordt verminderd. Volgens het project versnelt deze aanpassing de inferentie. Er zijn vooraf gebouwde binaries beschikbaar voor macOS, iOS, Linux, Vulkan en CUDA, voor uiteenlopende hardware. Bij de wijziging staat vermeld dat die is gemaakt met hulp van Codex, het codegeneratiemodel van OpenAI.

Waarom het ertoe doet

Ontwikkelaars kunnen modellen met llama.cpp sneller uitvoeren op AVX2-processors, zonder de code opnieuw te compileren.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.