Вышла версия b11500 библиотеки с открытым исходным кодом llama.cpp. В неё входят готовые к запуску бинарные файлы для macOS на Apple Silicon, macOS на Intel, iOS и нескольких сборок Ubuntu (CPU, Vulkan и CUDA). Обновление также исправляет ошибку низкоуровневой работы с памятью (hex-mmadd). Файлы можно скачать со страницы релиза на GitHub.
Почему это важно
Теперь разработчики могут запускать llama.cpp локально на большем числе устройств, не собирая библиотеку самостоятельно.