# llama.cpp ergänzt id_slot-Unterstützung für die Anthropic-API

> Das Release vom 20. Okt. 2026 ermöglicht es Servern, Sitzungen bestimmten KV-Cache-Slots zuzuordnen. So entfällt bei Anthropic-/v1/messages-Aufrufen das vollständige erneute Prefill.

Oossa · 2026-10-20 · https://oossa.com/de/llama-cpp-update-adds-id-slot-handling-for-anthropic-api

Am 2026‑10‑20 veröffentlichte das Open-Source-Projekt llama.cpp Version b11756. Die Änderung sorgt dafür, dass der Server das Feld id_slot aus Anthropic-/v1/messages-Anfragen in den internen OAI-ähnlichen Request-Body übernimmt. Dadurch kann ein Proxy eine Sitzung an einen bestimmten KV-Cache-Slot binden und verhindern, dass das Modell seinen Kontext jedes Mal neu laden muss. Ein neuer Test bestätigt, dass Anfragen mit id_slot vom richtigen Slot verarbeitet werden.

## Die Fakten

- Veröffentlichungsdatum: 2026‑10‑20 ("Tue Oct 20 2026 15:48:11 GMT+0200")
- Funktion: id_slot wird bei der Umwandlung von Anthropic-/v1/messages-Anfragen übernommen

## Warum es wichtig ist

Entwickler, die llama.cpp mit Anthropic-kompatiblen APIs nutzen, können Chatsitzungen beschleunigen, indem sie kostspielige Cache-Neuladungen vermeiden.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11756](https://github.com/ggml-org/llama.cpp/releases/tag/b11756) – llama.cpp, 2026-10-20

Zuletzt aktualisiert: 2026-10-20