# llama.cpp slaat promptcache slimmer op

> De nieuwe versie bewaart in het RAM-geheugen alleen herbruikbare slots. Bij bepaalde taken gaat daardoor minder geheugen verloren.

Oossa · 2026-10-15 · https://oossa.com/nl/llama-cpp-adds-smarter-prompt-cache-handling

Het llama.cpp-project heeft op 2026-10-15 versie b11642 uitgebracht. De manier waarop de server slots in de promptcache opslaat, is aangepast. Alleen slots die later kunnen worden hersteld, worden bewaard. Inactieve slots voor rerank-, embedding-, decision- en infilltaken vullen de cache daardoor niet langer. Decision-taken slaan de cache nu helemaal over, tenzij de vlag --cache-ram wordt gebruikt. Dit verlaagt het RAM-gebruik en voorkomt onnodige cachewisselingen.

## De feiten

- Versie b11642 is gepubliceerd op donderdag 15 oktober 2026
- Decision-taken slaan de promptcache over, tenzij --cache-ram wordt opgegeven

## Waarom het ertoe doet

Ontwikkelaars die llama.cpp op hardware met beperkte capaciteit draaien, profiteren van een lager geheugengebruik en minder vertraging door de cache.

## Bronnen en referenties

1. [ggml-org/llama.cpp b11642](https://github.com/ggml-org/llama.cpp/releases/tag/b11642) – llama.cpp, 2026-10-15

Laatst bijgewerkt: 2026-10-15