Команда ggml‑org выпустила llama.cpp версии b11777. Обновление меняет форму выходных данных моделей Qwen: вместо трёхмерного тензора теперь используется двумерный, поэтому больше не нужен лишний заключительный этап изменения формы. В релиз также вошли готовые к запуску бинарные файлы для macOS (Apple Silicon и Intel), iOS и нескольких сборок Ubuntu, в том числе с поддержкой Vulkan и CUDA.
Почему это важно
Разработчики могут скачать новые бинарные файлы и запускать локальные большие языковые модели на большем числе устройств, не собирая их из исходного кода.
