Команда ggml‑org выпустила llama.cpp версии b11297. В ней появилась поддержка преобразуемых атрибутов-массивов в шаблонах jinja, а также новые готовые сборки для macOS (Apple Silicon и Intel), iOS и нескольких вариантов Ubuntu (CPU, Vulkan и CUDA). Скачать релиз можно со страницы проекта на GitHub.
Почему это важно
Разработчики смогут использовать более гибкие шаблоны jinja и запускать готовые сборки на большем числе платформ, экономя время на настройке.