Oossa

Unsloth добавила темы Glass и ускорила генерацию моделей

В версии Unsloth v0.1.914-beta появились пять стилей Glass, настройки чата и обучение на CPU. Компания также сообщает об ускорении генерации в 3,9 раза в одном тесте.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

В Unsloth v0.1.914-beta добавили пять тем Glass, в том числе нативные стеклянные эффекты на Mac, а также настройки фона чата, приветствия и шрифта для кода. Кроме того, появились навигация по чатам, отображение сообщений справа налево и возможность обучать текстовые модели на CPU со страницы Train.

По данным Unsloth, поддерживаемые модели Llama и Qwen3 быстрее работают в бэкенде Transformers на видеокартах NVIDIA под Linux или WSL. В тесте на A100 модель Qwen3-8B в 4-битном формате генерировала 99,1 токена в секунду против прежних 25,7. В примечаниях к выпуску нет результатов независимой проверки.

Почему это важно

Пользователи Unsloth могут настроить интерфейс чата под себя, а при отсутствии GPU — обучать текстовые модели на CPU. В релизе не указано, насколько быстро будет проходить обучение на CPU.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.