Команда ggml‑org выпустила llama.cpp версии b11795. В обновлении сервер теперь передаёт параметры сэмплирования без изменений в поле extra_params эндпоинта /v1/messages. Кроме того, появились готовые бинарные сборки для macOS (Apple Silicon и Intel), iOS, а также для Ubuntu — несколько вариантов для CPU и Vulkan.
Почему это важно
Разработчики могут задавать параметры генерации через API без дополнительного кода, упрощая интеграцию llama.cpp в приложения.