Il progetto ggml-org/llama.cpp ha pubblicato la versione b11768. La versione corregge il server: gli eventi Server-Sent Events della Responses API ora includono il campo output_index, migliorando la compatibilità con i client di streaming. La modifica riutilizza anche il codice di streaming di Anthropic e rimuove campi inutilizzati relativi alle chiamate agli strumenti. Sono disponibili per il download binari precompilati per macOS (Apple Silicon e Intel), iOS e diverse configurazioni di Ubuntu.
Perché conta
Gli sviluppatori che usano llama.cpp possono ora identificare con affidabilità a quale parte della risposta in streaming appartiene ogni segmento, semplificando l’integrazione con le applicazioni di chat.
