Команда ggml-org выпустила llama.cpp b12344. В этой версии сервер отменяет вызовы инструментов MCP, если клиент отключается или превышает время ожидания. MCP позволяет ИИ-приложениям подключаться к внешним инструментам. На странице релиза также доступны сборки для macOS, iOS и нескольких систем Linux.
Почему это важно
Для разработчиков, запускающих серверы llama.cpp, это изменение должно останавливать вызовы инструментов после отключения клиента или истечения времени ожидания. В примечаниях к релизу не указано, насколько это может снизить нагрузку на сервер.
