ggml‑org выпустила llama.cpp версии b12362. Обновление ускоряет сопоставление грамматик благодаря левой факторизации, добавляет абстрактное синтаксическое дерево для разбора и ограничивает альтернативные правила. Некоторые недавние изменения отменили, чтобы обеспечить стабильность парсера. Теперь сборка поддерживает широкий спектр платформ — от macOS на Apple Silicon до Windows с CUDA 13.
В примечаниях к выпуску указана поддержка Linux, Android, Windows, а также различных графических бэкендов, включая Vulkan и OpenCL.
Почему это важно
Разработчики смогут запускать LLM с более быстрым и надёжным разбором грамматик на самых разных устройствах.