Oossa

llama.cpp-update verhelpt bufferoverloop bij meerdere threads

De release van 15 okt. 2026 verhelpt een bug waardoor threads buiten de conversiebuffer schreven. Dat maakt het programma stabieler op multi-core-CPU’s.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het project ggml‑org/llama.cpp bracht op 15 okt. 2026 versie b11633 uit. De update past aan hoe de SET_ROWS-bewerking de conversiebuffer toewijst, zodat elke thread een eigen buffer krijgt. Voorheen schreven alle threads behalve de eerste buiten de buffer, wat crashes veroorzaakte bij uitvoeringen met meerdere threads. De oplossing zorgt ervoor dat SET_ROWS één taak per thread uitvoert, zodat de buffergrootte overeenkomt met het aantal threads.

Waarom het ertoe doet

Ontwikkelaars die llama.cpp op multi-core-CPU’s gebruiken, krijgen minder crashes wanneer ze modellen parallel uitvoeren.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.