Oossa

Unsloth、Glassテーマ追加とモデル生成の高速化

Unslothのv0.1.914-betaでは、Glassスタイル5種類やチャット画面のカスタマイズ、CPUでの学習機能が追加された。同社のテストでは、生成速度が3.9倍になったという。

短信著者: Oossa公開日: 1 分で読める

Unslothのv0.1.914-betaでは、Mac標準のガラス効果を含むGlassテーマ5種類に加え、チャットの背景や挨拶、コードフォントを変更する機能が追加された。チャットのナビゲーション、メッセージの右から左への表示、「Train」ページからのCPUによるテキストモデルの学習にも対応する。

Unslothによると、LinuxまたはWSLを使うNVIDIA GPU環境では、対応するLlamaおよびQwen3モデルをTransformersバックエンドでより高速に実行できる。同社がA100で行ったテストでは、4ビットのQwen3-8Bの生成速度は毎秒25.7トークンから99.1トークンに向上した。リリースノートには、独立したテストの結果は掲載されていない。

なぜ重要か

Unslothのユーザーはチャット画面を自分好みに変更でき、GPUがない場合でもCPUでテキストモデルを学習できる。ただし、このリリースではCPU学習の速度は明らかにされていない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。