Пять подержанных майнинговых плат запускают Qwen3-Coder-Next со скоростью 40 токенов в секунду

Пользователь Reddit из сообщества LocalLLaMA объединил пять подержанных майнинговых плат BC-250, чтобы запускать Qwen3-Coder-Next — модель искусственного интеллекта для написания кода. По его словам, скорость составляет около 40 токенов в секунду при контексте в 30 000 токенов и падает примерно до 30 токенов в секунду при контексте в 100 000 токенов.

У плат в общей сложности около 71 ГБ видеопамяти, а обмениваются они данными через встроенный гигабитный Ethernet. Автор сборки говорит, что она обошлась менее чем в $800, но отмечает, что система «крайне неэффективно» расходует электроэнергию; возможно, он добавит ещё две платы, чтобы протестировать другую модель.