ggml‑org выпустила llama.cpp версии b11469. В обновление добавлено ядро tile‑lightning indexer для MUSA, разработанное Xiaodong Ye. В комплект также входят готовые к запуску сборки для Apple Silicon, компьютеров Mac на базе Intel, iOS и нескольких вариантов Ubuntu — с поддержкой CPU, Vulkan и CUDA. Подходящий пакет можно скачать со страницы релиза на GitHub.
Почему это важно
Разработчики смогут запускать llama.cpp локально на большем количестве устройств, в том числе с графическими процессорами, совместимыми с MUSA, без сборки из исходного кода.