Проект ggml‑org/llama.cpp выпустил версию b11768. В ней исправлена работа сервера: теперь события Server-Sent Events в Responses API содержат поле output_index, что улучшает совместимость с клиентами потоковой передачи. Кроме того, повторно используется код для потоковой передачи Anthropic и удалены неиспользуемые поля вызова инструментов. Для скачивания доступны готовые сборки для macOS (Apple Silicon и Intel), iOS и нескольких конфигураций Ubuntu.
Почему это важно
Разработчики, использующие llama.cpp, теперь могут надёжно отслеживать, к какой части потокового ответа относится каждый фрагмент, что упрощает интеграцию с чат-приложениями.
