Oossa

llama.cpp добавил поддержку тайлинга LFM2 и расширил список сборок

Среда выполнения LLM с открытым исходным кодом теперь считывает параметры тайлинга из файлов GGUF и включает готовые бинарные файлы для множества новых процессоров, графических ускорителей и операционных систем.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда ggml-org обновила llama.cpp: теперь программа считывает настройки тайлинга LFM2-VL из метаданных GGUF. Благодаря этому модель разбивает изображения на тайлы с учётом значений min_tiles, max_tiles, tile_size и max_pixels_tolerance, указанных в файле модели. В выпуск также вошли предварительно собранные бинарные файлы для широкого спектра платформ — macOS, Linux, Windows, Android — и различных аппаратных ускорителей, таких как CUDA 13, Vulkan и OpenCL.

Почему это важно

Разработчики теперь могут запускать LLM для обработки изображений на большем числе устройств, не создавая собственный код для тайлинга.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.