Em 2026-10-20, o projeto de código aberto llama.cpp lançou a versão b11756. A mudança faz o servidor copiar o campo id_slot das solicitações Anthropic /v1/messages para o corpo interno no formato OAI. Assim, um proxy pode manter uma sessão vinculada a um slot específico do cache KV, evitando que o modelo tenha de preencher novamente todo o contexto a cada solicitação. Um novo teste confirma que as solicitações com id_slot são atendidas pelo slot correto.
Por que importa
Desenvolvedores que usam o llama.cpp com APIs compatíveis com Anthropic podem manter as conversas mais rápidas, evitando recargas dispendiosas do cache.
