O projeto ggml-org/llama.cpp lançou a versão b11768. A atualização corrige o servidor para que os eventos Server-Sent Events da Responses API incluam o campo output_index, melhorando a compatibilidade com clientes de streaming. A mudança também reutiliza o código de streaming da Anthropic e remove campos não utilizados de chamadas de ferramentas. Há binários pré-compilados disponíveis para download para macOS (Apple Silicon e Intel), iOS e várias configurações do Ubuntu.
Por que importa
Desenvolvedores que usam llama.cpp agora podem identificar com mais segurança a qual parte de uma resposta transmitida cada trecho pertence, simplificando a integração com aplicativos de chat.
