Команда ggml-org выпустила llama.cpp версии b11467. В обновлении добавили подключение локали C (std::setlocale), чтобы улучшить обработку текста. Также доступны готовые к запуску бинарные файлы для компьютеров Mac с Apple Silicon и процессорами Intel, iOS и нескольких сборок Ubuntu (CPU, Vulkan, CUDA). Подходящий пакет можно скачать со страницы релиза на GitHub.
Почему это важно
Теперь разработчики могут запускать модели LLaMA на большем числе систем без сборки из исходного кода — это экономит время и снижает риск ошибок при настройке.