Проект llama.cpp выпустил версию b12027 с поддержкой разделения тензоров для моделей LFM3. В релизе также доступны готовые сборки для macOS, iOS и нескольких вариантов Ubuntu.
В примечаниях к релизу не уточняется, какие модели LFM3 и аппаратные конфигурации поддерживает это изменение.
Почему это важно
Разработчики, использующие LFM3 с llama.cpp, могут попробовать разделение тензоров, однако в примечаниях к релизу не указаны поддерживаемые конфигурации и ожидаемый эффект.