短信 · 1 分で読める
小型オープンモデル、ローカル学習プロジェクトで素早く判断
Redditユーザーが、文章を生成せずに選択肢を選び、その確率を返す小型のオープンウェイトモデルを公開した。ユーザーによると、0.8Bモデルの判断時間は28ミリ秒で、2Bモデルは5つのベンチマークテストで83.1%のスコアを記録した。
Oossa · Oossaについて
Jeffと名付けられたこのモデルは、分類などの選択タスク向けにQwen3.5とGemmaをファインチューニングしたものだ。状況と選択肢のリストを与えると、一度の処理でそれぞれの選択肢の確率を返す。
開発者によると、モデルは手元のハードウェアで学習させ、重みをApache 2.0ライセンスで公開した。5つのベンチマークで、2Bモデルは83.1%を記録し、公開済みのJevの83.0%に近いスコアとなった。ただし、テストに使われたサンプルは異なるため、スコアを直接比較することはできない。投稿によると、Jeffは複数段階の推論では大きく劣る。
なぜ重要か
複雑な推論よりも速度やローカル実行が重視されるアプリでは、素早く選択肢を返す小型モデルが役立つ可能性がある。
この記事は役に立ちましたか？
出典と参考資料
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights) ↗ | Reddit r/LocalLLaMA | 2026/09/28 | TL;DR: The Jeff models are a set of Qwen3.5 and Gemma fine-tunes for zero-shot classification: small, efficient, open-weight models with res |
1 件の出典
最終更新:
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。