# llama.cpp verbessert das Prefetching im Backend

> Version b12328 führt eine intelligentere Prefetch-Logik ein und überspringt den MoE-Cache auf nicht unterstützten Geräten.

Oossa · 2026-11-12 · https://oossa.com/de/llama-cpp-update-improves-backend-prefetch-handling

Das Projekt ggml‑org/llama.cpp hat am 2026-11-12 Version b12328 veröffentlicht. Das Update passt das Backend so an, dass es nur Eingaben vorab lädt, die von früheren Splits berechnet wurden. So werden keine Tensoren gelesen, die später überschrieben werden. Außerdem wird geprüft, ob das aktuelle Gerät den zwischengespeicherten Vorgang ausführen kann. Falls nicht, wird der MoE-Cache (Mixture of Experts) übersprungen, um unnötige Datenkopien zu vermeiden.

## Die Fakten

- Version b12328 wurde am 2026-11-12 veröffentlicht
- Führt eine Prefetch-Logik ein, die nur Eingaben aus früheren Splits berücksichtigt, und überspringt den MoE-Cache auf nicht unterstützten Geräten

## Warum es wichtig ist

Entwickler können mit geringerem Speicherverkehr und schnellerer Inferenz auf Hardware rechnen, die MoE-Workloads nicht verarbeiten kann.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b12328](https://github.com/ggml-org/llama.cpp/releases/tag/b12328) – llama.cpp, 2026-11-12

Zuletzt aktualisiert: 2026-11-12