Oossa

Saluki 27B: 2-битная модель Qwen3.8 превосходит оригинал в вызове инструментов

Модель Saluki 27B с открытым исходным кодом весит всего 7.89 GB и справляется с задачами вызова инструментов лучше полноразмерной Qwen3.8‑27B.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Выпущенная сообществом Saluki 27B — это 2-битная версия Qwen3.8‑27B в формате GGUF. Она весит 7.89 GB и распространяется по лицензии Apache 2.0. Согласно статье MarkTechPost, Saluki превосходит исходную модель размером 54 GB в тестах на вызов инструментов, но уступает ей в олимпиадных задачах по математике и тестах на рассуждение.

Почему это важно

Разработчики могут запускать значительно более компактную модель с бесплатной лицензией, которая эффективнее работает с вызовом инструментов даже на не самом мощном оборудовании.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.