Oossaهوش مصنوعی به‌سرعت پیشرفت می‌کند. ما آن را ساده توضیح می‌دهیم.

DeepSeek کتابخانه ارتباطی DeepEP-Ascend را برای NPUهای هواوی منتشر کرد

DeepSeek یک کتابخانه ارتباطی پرسرعت را متن‌باز کرده که آموزش مدل‌های MoE را روی NPUهای Ascend سرعت می‌دهد. نتایج اولیه از بهره‌گیری تا ۹۵ درصدی از پهنای باند حکایت دارد.

خبر کوتاهOossa1 دقیقه مطالعه

DeepSeek مخزن جدیدی به نام DeepEP-Ascend را در GitHub منتشر کرده است. این کتابخانه برای آموزش و استنتاج روی NPUهای Ascend هواوی طراحی شده و از ارتباط همه‌به‌همه در موازی‌سازی متخصص‌ها، موازی‌سازی خط لوله و دسترسی به حافظه از راه دور پشتیبانی می‌کند. این کتابخانه با APIِ NVIDIA DeepEP سازگار است و با یک فرمان pip نصب می‌شود. آزمایش‌های اولیه روی Ascend 950DT نشان می‌دهد پهنای باند ارسال داده، برای اندازه‌های موازی‌سازی متخصص‌ها تا ۳۲، به سقف سخت‌افزاری نزدیک است.

چرا مهم است

این کتابخانه به توسعه‌دهندگان امکان می‌دهد از تراشه‌های Ascend هواوی برای اجرای مدل‌های بزرگِ ترکیبی از متخصص‌ها استفاده کنند و به سرعت‌هایی نزدیک به سقف توان ارتباطی سخت‌افزار برسند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.

منابع و ارجاع‌ها

#منبعرسانهتاریخنکته اصلی
1New repository deepseek-ai/DeepEP-Ascend: A high-performance communication library for machine learning training and inference on Huawei Ascend NPUs. ↗DeepSeek۸ مهر ۱۴۰۵A high-performance communication library for machine learning training and inference on Huawei Ascend NPUs.

1 منبع

آخرین به‌روزرسانی: ·Markdown·llms.txt