Fem begagnade miningkort kör Qwen3-Coder-Next med 40 token per sekund

En Reddit-användare på LocalLLaMA har satt ihop fem begagnade BC-250-miningkort för att köra Qwen3-Coder-Next, en AI-modell för kodskrivning. Användaren uppger att systemet klarar cirka 40 token per sekund med ett kontextfönster på 30 000 token, och att hastigheten sjunker till omkring 30 token per sekund vid 100 000 token.

Korten delar på cirka 71 GB videominne och kommunicerar via inbyggt gigabit-Ethernet. Personen bakom bygget säger att det kostade mindre än 800 dollar, men påpekar att det är ”extremt ineffektivt” vad gäller strömförbrukning. Personen kan komma att lägga till ytterligare två kort för att testa en annan modell.