短信 · 1 分で読める
中古マイニングボード5枚でQwen3-Coder-Nextを毎秒40トークン生成
Redditユーザーによると、BC-250ボード5枚のクラスターでQwen3-Coder-Nextを毎秒40トークン生成できるという。構築費用は800ドル未満とされるが、電力効率は悪い。
Oossa · Oossaについて
LocalLLaMAのRedditユーザーが、中古のBC-250マイニングボード5枚を組み合わせ、コード生成AIモデルのQwen3-Coder-Nextを動かしている。コンテキスト長が30,000トークンの場合、生成速度は毎秒約40トークンで、100,000トークンでは毎秒約30トークンに落ちるという。
ボードは合計約71GBのビデオメモリーを備え、内蔵の1ギガビットイーサネットで通信する。構築したユーザーによると、費用は800ドル未満だった一方、電力効率は「ひどく悪い」とのこと。別のモデルを試すため、ボードをさらに2枚追加する可能性もあるという。
なぜ重要か
中古のマイニング用ハードウェアをローカルAI向けに転用できることを示す構成だが、電力消費が実用性を左右する可能性がある。
この記事は役に立ちましたか？
出典と参考資料
| # | 出典 | 媒体 | 日付 | 要点 |
|---|---|---|---|---|
| 1 | I’m calling this the Monstrosity. 5 ex mining BC-250 boards Qwen3-Coder-Next Q4 at 40 tok/s ↗ | Reddit r/LocalLLaMA | 2026/09/28 | Using an asrock 12 unit case running one board as the main with the rest of them headless. |
1 件の出典
最終更新:
Oossa · ニュースレター
今週のAIを、わかりやすく
毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。