Команда ggml‑org выпустила llama.cpp версии b11672. В неё входят готовые сборки для macOS на Apple Silicon, macOS на Intel, iOS, а также для нескольких конфигураций Ubuntu с CPU, Vulkan и CUDA. В выпуске также отмечено изменение в инструменте mtmd lightonocr: теперь он не ограничивает длинную сторону изображения 1540 пикселями и по умолчанию использует исходный размер изображения.
Почему это важно
Разработчики смогут запускать модели LLaMA на большем числе аппаратных конфигураций, не собирая код самостоятельно.
