# llama.cpp 改进提示缓存管理

> 新版本让服务器只在内存中保留可复用的缓存槽位，减少特定任务对内存的浪费。

Oossa · 2026-10-15 · https://oossa.com/zh/llama-cpp-adds-smarter-prompt-cache-handling

llama.cpp 项目于 2026-10-15 发布 b11642 版本，调整了服务器存储提示缓存槽位的方式。服务器现在只保存之后能够恢复的槽位，因此，重排序、嵌入、决策和填充任务的空闲槽位不会再占用缓存。除非使用 --cache-ram 标志，否则决策任务现在完全跳过缓存。这能减少 RAM 占用，并避免不必要的缓存频繁更替。

## 事实

- b11642 版本于 2026 年 10 月 15 日星期四发布
- 除非指定 --cache-ram，否则决策任务会跳过提示缓存

## 为什么重要

在硬件资源有限的设备上运行 llama.cpp 的开发者，将能减少内存占用和缓存相关的卡顿。

## 来源与参考

1. [ggml-org/llama.cpp b11642](https://github.com/ggml-org/llama.cpp/releases/tag/b11642) – llama.cpp, 2026-10-15

最后更新: 2026-10-15