Команда ggml-org обновила llama.cpp: теперь программа считывает настройки тайлинга LFM2-VL из метаданных GGUF. Благодаря этому модель разбивает изображения на тайлы с учётом значений min_tiles, max_tiles, tile_size и max_pixels_tolerance, указанных в файле модели. В выпуск также вошли предварительно собранные бинарные файлы для широкого спектра платформ — macOS, Linux, Windows, Android — и различных аппаратных ускорителей, таких как CUDA 13, Vulkan и OpenCL.
Почему это важно
Разработчики теперь могут запускать LLM для обработки изображений на большем числе устройств, не создавая собственный код для тайлинга.