ggml-org выпустила llama.cpp версии b12224. Обновление прекращает отправлять входные данные, которые бэкенд всё равно не считывает, устраняя небольшую проблему с производительностью. В комплект также входят готовые к запуску бинарные файлы для Mac с Apple Silicon, Mac на Intel, iOS и нескольких вариантов Ubuntu для процессоров, в том числе с поддержкой s390x и Vulkan. В примечаниях к выпуску есть ссылки на файлы для скачивания и аттестации.
Почему это важно
Разработчики могут запускать Llama.cpp локально на большем числе устройств, не собирая программу из исходного кода, и экономить время на настройке.
