El proyecto ggml‑org/llama.cpp publicó la versión b11768. La actualización corrige el servidor para que los eventos Server-Sent Events de la Responses API incluyan el campo output_index, lo que mejora la compatibilidad con los clientes de streaming. El cambio también reutiliza el código de streaming de Anthropic y elimina campos de llamadas a herramientas que ya no se usan. Se pueden descargar binarios precompilados para macOS (Apple Silicon e Intel), iOS y varias configuraciones de Ubuntu.
Por qué importa
Los desarrolladores que usan llama.cpp ahora pueden identificar de forma fiable a qué parte de una respuesta en streaming corresponde cada fragmento, lo que simplifica la integración con aplicaciones de chat.
