خبر کوتاه · 1 دقیقه مطالعه
اجرای Qwen3-Coder-Next با سرعت ۴۰ توکن در ثانیه روی پنج برد ماینینگ دستدوم
کاربری در ردیت میگوید خوشهای متشکل از پنج برد BC-250، مدل Qwen3-Coder-Next را با سرعت ۴۰ توکن در ثانیه اجرا میکند. بهگفته او، هزینه این مجموعه کمتر از ۸۰۰ دلار بوده، اما برق را ناکارآمد مصرف میکند.
Oossa · درباره Oossa
یکی از کاربران ردیت در انجمن LocalLLaMA، پنج برد ماینینگ دستدوم BC-250 را کنار هم گذاشته تا مدل هوش مصنوعی Qwen3-Coder-Next را که برای نوشتن کد طراحی شده اجرا کند. او میگوید سرعت اجرا با پنجره متنی ۳۰٬۰۰۰ توکنی حدود ۴۰ توکن در ثانیه است و با افزایش آن به ۱۰۰٬۰۰۰ توکن، سرعت به حدود ۳۰ توکن در ثانیه میرسد.
این بردها در مجموع حدود ۷۱ گیگابایت حافظه ویدئویی دارند و از طریق اترنت ۱ گیگابیتی داخلی خود با هم ارتباط برقرار میکنند. سازنده میگوید هزینه این مجموعه کمتر از ۸۰۰ دلار بوده، اما برق را «بهشدت ناکارآمد» مصرف میکند؛ او شاید برای آزمایش مدلی دیگر، دو برد دیگر هم به آن اضافه کند.
چرا مهم است
این مجموعه نشان میدهد چطور میتوان سختافزار ماینینگ دستدوم را برای اجرای محلی هوش مصنوعی به کار گرفت؛ هرچند مصرف برق آن ممکن است کاربردیبودنش را محدود کند.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | I’m calling this the Monstrosity. 5 ex mining BC-250 boards Qwen3-Coder-Next Q4 at 40 tok/s ↗ | Reddit r/LocalLLaMA | ۶ مهر ۱۴۰۵ | Using an asrock 12 unit case running one board as the main with the rest of them headless. |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.