开源项目 llama.cpp 于 2026‑10‑20 发布 b11756 版。此次更新会将 Anthropic /v1/messages 请求中的 id_slot 字段复制到内部采用 OAI 风格的请求体中。这样，代理就能将会话绑定到特定的 KV 缓存槽，避免模型每次都重新填充上下文。新增测试确认，带有 id_slot 的请求会由正确的缓存槽处理。
为什么重要
使用 llama.cpp 提供 Anthropic 兼容 API 的开发者，可以避免耗时的缓存重新加载，让聊天会话响应更快。
llama.cpp 更新支持 Anthropic API 的 id_slot 参数
2026 年 10 月 20 日发布的版本可将会话固定到指定 KV 缓存槽，避免调用 Anthropic /v1/messages 时重新填充整个上下文。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。