Библиотека с открытым исходным кодом llama.cpp выпущена в версии b11323 1 октября 2026 года. В релиз вошли готовые сборки для macOS на Apple Silicon и Intel, iOS и нескольких конфигураций Ubuntu — с поддержкой CPU, Vulkan и CUDA. В примечаниях к выпуску также упоминается изменение HIP для графических процессоров CDNA. Скачать сборки можно на странице релиза на GitHub.
Почему это важно
Теперь разработчики могут запускать llama.cpp локально на большем числе устройств, в том числе на компьютерах Mac с Apple Silicon и машинах с Ubuntu и ускорением на GPU.