짧은 소식 · 1 분 읽기
중고 채굴 보드 5개로 Qwen3-Coder-Next를 초당 40토큰 생성
한 Reddit 이용자는 BC-250 보드 5개를 묶어 Qwen3-Coder-Next를 초당 40토큰 생성한다고 밝혔다. 구성 비용은 800달러 미만으로 알려졌지만, 전력 효율은 낮다.
Oossa · Oossa 소개
LocalLLaMA Reddit 이용자가 중고 BC-250 채굴 보드 5개를 조립해 코드 작성용 AI 모델 Qwen3-Coder-Next를 구동했다. 이 이용자에 따르면 컨텍스트 길이 3만 토큰에서 초당 약 40토큰을 생성하며, 10만 토큰에서는 초당 약 30토큰으로 속도가 떨어진다.
보드들은 영상 메모리 약 71GB를 공유하고, 내장된 1기가비트 이더넷으로 통신한다. 제작자는 구성 비용이 800달러 미만이라고 밝히면서 전력 효율이 “매우 나쁘다”고 덧붙였다. 다른 모델을 시험하기 위해 보드를 두 개 더 추가할 수도 있다고 한다.
왜 중요한가
이번 사례는 중고 채굴 하드웨어를 로컬 AI용으로 재활용할 수 있음을 보여준다. 다만 전력 소비가 많아 실용성에 제약이 있을 수 있다.
이 기사가 도움이 되었나요?
출처 및 참고 자료
| # | 출처 | 매체 | 날짜 | 핵심 내용 |
|---|---|---|---|---|
| 1 | I’m calling this the Monstrosity. 5 ex mining BC-250 boards Qwen3-Coder-Next Q4 at 40 tok/s ↗ | Reddit r/LocalLLaMA | 2026. 9. 28. | Using an asrock 12 unit case running one board as the main with the rest of them headless. |
1 개 출처
최종 업데이트:
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.