# llama.cpp verwaltet den Prompt-Cache effizienter

> Das neue Release hält im Arbeitsspeicher nur noch wiederverwendbare Slots vor. Bei bestimmten Aufgabentypen sinkt dadurch der unnötige Speicherverbrauch.

Oossa · 2026-10-15 · https://oossa.com/de/llama-cpp-adds-smarter-prompt-cache-handling

Das llama.cpp-Projekt hat am 2026-10-15 Version b11642 veröffentlicht. Damit ändert sich, wie der Server Slots im Prompt-Cache speichert. Gesichert werden nur noch Slots, die später wiederhergestellt werden können. Ungenutzte Slots für Reranking-, Embedding-, Entscheidungs- und Infill-Aufgaben belegen den Cache daher nicht mehr. Entscheidungsaufgaben umgehen den Cache nun vollständig, sofern nicht das Flag --cache-ram gesetzt ist. Das senkt den RAM-Verbrauch und verhindert unnötige Cache-Aktivität.

## Die Fakten

- Version b11642 wurde am Do., 15. Okt. 2026, veröffentlicht
- Entscheidungsaufgaben umgehen den Prompt-Cache, sofern nicht --cache-ram angegeben wird

## Warum es wichtig ist

Entwickler, die llama.cpp auf Geräten mit begrenztem Arbeitsspeicher ausführen, profitieren von einem geringeren Speicherverbrauch und weniger Verzögerungen durch den Cache.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11642](https://github.com/ggml-org/llama.cpp/releases/tag/b11642) – llama.cpp, 2026-10-15

Zuletzt aktualisiert: 2026-10-15