OossaAI तेज़ी से विकसित हो रहा है। हम इसे आसान भाषा में समझाते हैं।
न्यूज़लेटर

संक्षिप्त · 1 मिनट पढ़ना

पांच इस्तेमाल किए गए माइनिंग बोर्ड 40 टोकन प्रति सेकंड की रफ्तार से Qwen3-Coder-Next चलाते हैं

Reddit के एक यूज़र का कहना है कि पांच BC-250 बोर्डों का क्लस्टर Qwen3-Coder-Next को 40 टोकन प्रति सेकंड की रफ्तार से चलाता है। इस सेटअप की लागत कथित तौर पर $800 से कम रही, लेकिन इसमें बिजली का इस्तेमाल कुशलता से नहीं होता।

Oossa · Oossa के बारे में

LocalLLaMA सबरेडिट के एक यूज़र ने कोड लिखने वाले AI मॉडल Qwen3-Coder-Next को चलाने के लिए पांच इस्तेमाल किए गए BC-250 माइनिंग बोर्डों को जोड़ा है। उनके मुताबिक, 30,000 टोकन के कॉन्टेक्स्ट पर यह करीब 40 टोकन प्रति सेकंड की रफ्तार देता है, जबकि 100,000 टोकन पर रफ्तार घटकर लगभग 30 टोकन प्रति सेकंड रह जाती है।

इन बोर्डों में कुल करीब 71GB वीडियो मेमोरी है और ये अपने बिल्ट-इन 1-गीगाबिट Ethernet के जरिए एक-दूसरे से संपर्क करते हैं। बिल्डर का कहना है कि इस सेटअप की लागत $800 से कम रही, हालांकि बिजली के इस्तेमाल के मामले में यह “बेहद अकुशल” है। वे एक और मॉडल को परखने के लिए दो अतिरिक्त बोर्ड जोड़ने पर विचार कर सकते हैं।

यह क्यों मायने रखता है

यह सेटअप दिखाता है कि इस्तेमाल किए गए माइनिंग हार्डवेयर को स्थानीय AI चलाने के लिए दोबारा काम में लाया जा सकता है, हालांकि बिजली की खपत इसकी उपयोगिता सीमित कर सकती है।

क्या यह लेख उपयोगी था?

स्रोत और संदर्भ

#स्रोतप्रकाशकतारीखमुख्य बात
1I’m calling this the Monstrosity. 5 ex mining BC-250 boards Qwen3-Coder-Next Q4 at 40 tok/s ↗Reddit r/LocalLLaMA28 सित॰ 2026Using an asrock 12 unit case running one board as the main with the rest of them headless.

1 स्रोत

अंतिम अपडेट:

Oossallms.txt.md

साझा करें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।

पांच इस्तेमाल किए गए माइनिंग बोर्ड 40 टोकन प्रति सेकंड की रफ्तार से Qwen3-Coder-Next चलाते हैं – Oossa