# llama.cpp экономнее хранит промпты в кэше

> В новом релизе сервер оставляет в оперативной памяти только повторно используемые слоты, сокращая расход памяти для некоторых типов задач.

Oossa · 2026-10-15 · https://oossa.com/ru/llama-cpp-adds-smarter-prompt-cache-handling

Проект llama.cpp выпустил версию b11642 2026-10-15. В ней изменён способ хранения слотов кэша промптов на сервере: сохраняются только те слоты, которые можно восстановить позже. Поэтому неиспользуемые слоты для задач rerank, embedding, decision и infill больше не занимают место в кэше. Задачи decision теперь вовсе обходятся без кэша, если не указан флаг --cache-ram. Это снижает расход оперативной памяти и помогает избежать лишнего обновления кэша.

## Факты

- Версия b11642 выпущена в четверг, 15 октября 2026 года
- Задачи decision пропускают кэш промптов, если не указан флаг --cache-ram

## Почему это важно

Разработчики, запускающие llama.cpp на устройствах с ограниченными ресурсами, получат меньший расход памяти и реже будут сталкиваться с замедлениями из-за кэша.

## Источники и ссылки

1. [ggml-org/llama.cpp b11642](https://github.com/ggml-org/llama.cpp/releases/tag/b11642) – llama.cpp, 2026-10-15

Обновлено: 2026-10-15