コミュニティが公開したSaluki 27Bは、Qwen3.8‑27Bを2ビット量子化したGGUF版です。容量は7.89 GBで、ライセンスはApache 2.0です。MarkTechPostの記事によると、Salukiはツール呼び出しのベンチマークで、元の54 GBモデルを上回りました。一方、競技数学や推論のテストでは及びませんでした。
なぜ重要か
開発者は、より小型で自由に利用できるモデルを、比較的控えめなハードウェアで動かし、より高いツール呼び出し性能を活用できます。
Saluki 27B、2ビット量子化で元のモデルを上回るツール呼び出し性能
オープンソースのSaluki 27Bはわずか7.89 GB。ツール呼び出しタスクでは、フルサイズのQwen3.8‑27Bを上回ります。
短信著者： OossaOossa公開日: 1 分で読める
次に読む
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。