Oossa

llama.cpp-update voorkomt overschrijven van bezette slots

De release van Oct 10, 2026 verhelpt een bug waarbij een nieuw verzoek een lopende generatie kon verstoren door de promptcache te overschrijven.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het llama.cpp-project bracht op 2026‑10‑10 versie b11552 uit. De wijziging voorkomt dat een verzoek de promptcache bijwerkt van een slot dat al bezet is. Voorheen werd het bezette slot overschreven, waardoor de generatie verderging met de verkeerde context. Nu blijft het bezette slot ongewijzigd en wacht het nieuwe verzoek tot het slot vrijkomt.

Waarom het ertoe doet

Ontwikkelaars die llama.cpp gebruiken, krijgen minder generatiefouten wanneer meerdere verzoeken hetzelfde GPU-geheugen delen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.