OossaAI 发展迅速。我们用简单的话讲清楚。
新闻简报

简讯 · 1 分钟阅读

五块二手挖矿板以每秒 40 个 token 的速度运行 Qwen3-Coder-Next

一位 Reddit 用户称,由五块 BC-250 挖矿板组成的集群运行 Qwen3-Coder-Next 时,每秒可生成 40 个 token。据称,这套设备的成本不到 800 美元,但能效不高。

Oossa · 关于 Oossa

一位 LocalLLaMA Reddit 用户将五块二手 BC-250 挖矿板组装起来,用于运行代码生成 AI 模型 Qwen3-Coder-Next。据其介绍,在上下文长度为 30,000 个 token 时,生成速度约为每秒 40 个 token;上下文长度增至 100,000 个 token 后,速度会降至每秒约 30 个 token。

这些板卡共享约 71GB 显存,并通过内置的 1 千兆以太网相互通信。组装者表示,这套设备的成本不到 800 美元,同时也指出它的功耗效率“非常差”;他们可能会再加两块板卡,测试另一个模型。

为什么重要

这套设备展示了如何将二手挖矿硬件改用于本地 AI,但其功耗可能会限制实际应用价值。

这篇文章有帮助吗?

来源与参考

#来源发布方日期要点
1I’m calling this the Monstrosity. 5 ex mining BC-250 boards Qwen3-Coder-Next Q4 at 40 tok/s ↗Reddit r/LocalLLaMA2026年9月28日Using an asrock 12 unit case running one board as the main with the rest of them headless.

1 个来源

最后更新:

Oossallms.txt.md

分享

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。

五块二手挖矿板以每秒 40 个 token 的速度运行 Qwen3-Coder-Next – Oossa