# 小型オープンモデル、ローカル学習プロジェクトで素早く判断

> Redditユーザーが、文章を生成せずに選択肢を選び、その確率を返す小型のオープンウェイトモデルを公開した。ユーザーによると、0.8Bモデルの判断時間は28ミリ秒で、2Bモデルは5つのベンチマークテストで83.1%のスコアを記録した。

Oossa · 2026-09-28 · https://oossa.com/ja/small-open-models-make-fast-decisions-in-local-training-project

Jeffと名付けられたこのモデルは、分類などの選択タスク向けにQwen3.5とGemmaをファインチューニングしたものだ。状況と選択肢のリストを与えると、一度の処理でそれぞれの選択肢の確率を返す。

開発者によると、モデルは手元のハードウェアで学習させ、重みをApache 2.0ライセンスで公開した。5つのベンチマークで、2Bモデルは83.1%を記録し、公開済みのJevの83.0%に近いスコアとなった。ただし、テストに使われたサンプルは異なるため、スコアを直接比較することはできない。投稿によると、Jeffは複数段階の推論では大きく劣る。

## 事実

- 開発者によると、RTX PRO 6000 GPU 1基で、0.8Bモデルの学習には約2時間、2Bモデルには約3.5時間かかった。
- 0.8Bモデルは、M4 Max上で約28ミリ秒で判断したという。

## なぜ重要か

複雑な推論よりも速度やローカル実行が重視されるアプリでは、素早く選択肢を返す小型モデルが役立つ可能性がある。

## 出典と参考資料

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

最終更新: 2026-09-28