Вышла новая версия проекта llama.cpp: она умеет загружать и запускать на обычном CPU ветку SenseNova U1 для глубокого понимания, в том числе модель U1.5‑8B‑MoT. Также добавлены инструменты для конвертации визуального энкодера модели — теперь ей можно подавать изображения любого разрешения. Ветки для генерации пока не поддерживаются, поэтому обновление подходит только для задач понимания. Изменения подготовлены при участии Sigbjørn Skjæret из Hugging Face.
Почему это важно
Теперь пользователи CPU могут запускать модель SenseNova U1 для работы с изображениями высокого разрешения без GPU.
