Команда ggml-org выпустила llama.cpp версии b12361. В обновлении код кэша MOE вынесли из внутренней обработки графа, а также добавили новые готовые сборки для macOS (Apple Silicon и Intel), iOS и нескольких вариантов Ubuntu — в том числе версии для CPU и Vulkan. Сборка для macOS на Apple Silicon с поддержкой KleidiAI указана в списке, но пока отключена. Все файлы доступны для скачивания на странице релиза в GitHub.
Почему это важно
Разработчики могут запускать llama.cpp локально на большем числе платформ без сборки из исходного кода и быстрее проводить эксперименты.
