# Небольшие открытые модели быстро принимают решения в проекте с локальным обучением

> Пользователь Reddit выпустил небольшие модели с открытыми весами: они выбирают из предложенных вариантов и возвращают вероятности, не генерируя текст. По словам автора, модель 0.8B принимает решение за 28 миллисекунд, а модель 2B набрала 83,1% в тесте по пяти бенчмаркам.

Oossa · 2026-09-28 · https://oossa.com/ru/small-open-models-make-fast-decisions-in-local-training-project

Модели под названием Jeff — это дообученные версии Qwen3.5 и Gemma для классификации и других задач выбора. Достаточно описать ситуацию и перечислить варианты — модель за один проход рассчитает вероятность каждого из них.

Автор утверждает, что обучал модели на собственном оборудовании и выпустил их веса по лицензии Apache 2.0. В тестах по пяти бенчмаркам модель 2B набрала 83,1% — почти столько же, сколько Jev, результат которого в опубликованных данных составляет 83,0%. При этом использовались разные выборки, поэтому напрямую сравнивать результаты нельзя. Как говорится в посте, Jeff заметно хуже справляется с многоэтапными рассуждениями.

## Факты

- По словам автора, обучение модели 0.8B заняло около двух часов, а модели 2B — примерно 3,5 часа на одном графическом процессоре RTX PRO 6000.
- Как утверждается, модель 0.8B принимала решение примерно за 28 миллисекунд на M4 Max.

## Почему это важно

Небольшие модели, которые быстро выбирают из вариантов, могут подойти для приложений, где важнее скорость и локальная работа, чем сложные рассуждения.

## Источники и ссылки

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

Обновлено: 2026-09-28