Команда ggml-org выпустила llama.cpp версии b11769. В обновлении исправлена ошибка, из-за которой серверный маршрутизатор не полностью передавал дочерним процессам сигналы об отключении клиента, что могло задерживать отмену запроса. Кроме того, удалён тест, чувствительный к таймингу. Теперь доступны новые готовые сборки для macOS на Apple Silicon и Intel, iOS и нескольких вариантов Ubuntu.
Почему это важно
Разработчики смогут запускать llama.cpp локально и надёжнее отменять запросы, не тратя вычислительные ресурсы на прерванные задачи.
