Проект llama.cpp выпустил версию b11642 2026-10-15. В ней изменён способ хранения слотов кэша промптов на сервере: сохраняются только те слоты, которые можно восстановить позже. Поэтому неиспользуемые слоты для задач rerank, embedding, decision и infill больше не занимают место в кэше. Задачи decision теперь вовсе обходятся без кэша, если не указан флаг --cache-ram. Это снижает расход оперативной памяти и помогает избежать лишнего обновления кэша.
Почему это важно
Разработчики, запускающие llama.cpp на устройствах с ограниченными ресурсами, получат меньший расход памяти и реже будут сталкиваться с замедлениями из-за кэша.
