Oossa

llama.cpp b12027 добавляет разделение тензоров для LFM3

В новой версии llama.cpp появилось разделение тензоров для LFM3, а также доступны сборки для настольных компьютеров и серверов на нескольких платформах.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Проект llama.cpp выпустил версию b12027 с поддержкой разделения тензоров для моделей LFM3. В релизе также доступны готовые сборки для macOS, iOS и нескольких вариантов Ubuntu.

В примечаниях к релизу не уточняется, какие модели LFM3 и аппаратные конфигурации поддерживает это изменение.

Почему это важно

Разработчики, использующие LFM3 с llama.cpp, могут попробовать разделение тензоров, однако в примечаниях к релизу не указаны поддерживаемые конфигурации и ожидаемый эффект.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.