# llama.cpp verbetert prefetch-afhandeling in backend

> Release b12328 voegt slimmere prefetchlogica toe en slaat de MoE-cache over op niet-ondersteunde apparaten.

Oossa · 2026-11-12 · https://oossa.com/nl/llama-cpp-update-improves-backend-prefetch-handling

Het project ggml‑org/llama.cpp bracht op 2026-11-12 versie b12328 uit. De update past de backend aan, zodat die alleen invoer vooraf ophaalt die in eerdere splits is berekend. Zo worden tensors die later worden overschreven niet uitgelezen. Ook wordt voortaan gecontroleerd of het huidige apparaat de bewerking in de MoE-cache (mixture-of-experts) kan uitvoeren. Zo niet, dan wordt die cache overgeslagen en worden onnodige gegevenskopieën voorkomen.

## De feiten

- Releaseversie b12328 gepubliceerd op 2026-11-12
- Voegt logica toe om alleen invoer uit eerdere splits vooraf op te halen en de MoE-cache over te slaan op niet-ondersteunde apparaten

## Waarom het ertoe doet

Ontwikkelaars kunnen rekenen op minder geheugenverkeer en snellere inferentie op hardware die MoE-workloads niet aankan.

## Bronnen en referenties

1. [ggml-org/llama.cpp b12328](https://github.com/ggml-org/llama.cpp/releases/tag/b12328) – llama.cpp, 2026-11-12

Laatst bijgewerkt: 2026-11-12