ggml‑org выпустила llama.cpp версии b11503. В обновлении встроенную библиотеку cpp-httplib обновили до версии 0.60.1. Также стали доступны новые предварительно собранные бинарные файлы для Apple Silicon, компьютеров Mac с процессорами Intel, iOS и нескольких сборок Ubuntu (CPU, Vulkan и CUDA). Скачать файлы можно на странице релиза на GitHub.
Почему это важно
Теперь разработчики могут собирать и запускать LLM на большем числе платформ с более новой HTTP-библиотекой, что упрощает интеграцию.