El 20 de octubre de 2026, el proyecto de código abierto llama.cpp publicó la versión b11756. El cambio hace que el servidor copie el campo id_slot de las solicitudes a Anthropic /v1/messages en el cuerpo interno con formato OAI. Así, un proxy puede mantener una sesión vinculada a un espacio concreto de la caché KV e impedir que el modelo tenga que volver a procesar todo el contexto cada vez. Una nueva prueba confirma que las solicitudes con id_slot se atienden en el espacio correcto.
Por qué importa
Los desarrolladores que usan llama.cpp con API compatibles con Anthropic pueden agilizar las sesiones de chat y evitar recargas costosas de la caché.
