简讯 · 1 分钟阅读
五块二手挖矿板以每秒 40 个 token 的速度运行 Qwen3-Coder-Next
一位 Reddit 用户称,由五块 BC-250 挖矿板组成的集群运行 Qwen3-Coder-Next 时,每秒可生成 40 个 token。据称,这套设备的成本不到 800 美元,但能效不高。
Oossa · 关于 Oossa
一位 LocalLLaMA Reddit 用户将五块二手 BC-250 挖矿板组装起来,用于运行代码生成 AI 模型 Qwen3-Coder-Next。据其介绍,在上下文长度为 30,000 个 token 时,生成速度约为每秒 40 个 token;上下文长度增至 100,000 个 token 后,速度会降至每秒约 30 个 token。
这些板卡共享约 71GB 显存,并通过内置的 1 千兆以太网相互通信。组装者表示,这套设备的成本不到 800 美元,同时也指出它的功耗效率“非常差”;他们可能会再加两块板卡,测试另一个模型。
为什么重要
这套设备展示了如何将二手挖矿硬件改用于本地 AI,但其功耗可能会限制实际应用价值。
这篇文章有帮助吗?
来源与参考
| # | 来源 | 发布方 | 日期 | 要点 |
|---|---|---|---|---|
| 1 | I’m calling this the Monstrosity. 5 ex mining BC-250 boards Qwen3-Coder-Next Q4 at 40 tok/s ↗ | Reddit r/LocalLLaMA | 2026年9月28日 | Using an asrock 12 unit case running one board as the main with the rest of them headless. |
1 个来源
最后更新:
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。