Библиотека с открытым исходным кодом llama.cpp объявила о выходе версии b11812 22 октября 2026 года. В релиз вошли готовые к запуску сборки для macOS на Apple Silicon и Intel, iOS и нескольких конфигураций Ubuntu (CPU, Vulkan, CUDA 12). В обновлении также зафиксированы входные данные слоёв для всех моделей Granite. Подходящий пакет можно скачать со страницы релиза на GitHub.
Почему это важно
Разработчики теперь могут запускать большие языковые модели локально на множестве настольных и мобильных систем, не прибегая к облачным сервисам.