Oossa

آموزش مدل هوش مصنوعی یک‌تریلیون‌پارامتری روی ابررایانه عمومی اتحادیه اروپا

تیم EUROPA با PyTorch و TorchTitan روی 384 پردازنده گرافیکی NVIDIA GH200 به سرعت حدود 1,300 توکن در ثانیه برای هر پردازنده رسید و امکان آموزش مدل‌های پیشرفته در مقیاس بزرگ را روی زیرساخت مشترک اتحادیه اروپا نشان داد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

1 منبع ↓

کنسرسیوم EUROPA متشکل از Domyn، Fraunhofer IAIS و IIS، یک مدل ترکیبی از متخصصان با حدود 1 تریلیون پارامتر را روی JUPITER، ابررایانه اگزااسکیل EuroHPC در Forschungszentrum Jülich، آموزش داد. این گروه با بهینه‌سازی PyTorch و TorchTitan، سرعت پردازش را در 384 پردازنده گرافیکی GH200 (در 96 گره) از 90 به حدود 1,300 توکن در ثانیه برای هر پردازنده افزایش داد. این پروژه نشان می‌دهد زیرساخت محاسباتی عمومی و مستقل اروپا می‌تواند از هوش مصنوعی در مقیاسی هم‌تراز با خوشه‌های خصوصی پشتیبانی کند.

چرا مهم است

این پروژه نشان می‌دهد منابع محاسباتی عمومی اروپا می‌توانند هوش مصنوعی پیشرفته را در مقیاس بزرگ اجرا کنند و وابستگی به اجاره زیرساخت از ارائه‌دهندگان خصوصی ابری را کاهش دهند.

منابع و ارجاع‌ها

1 منبع
  1. PyTorchخواندن منبع اصلی
ناشر: OLY Europe LTDگزارش خطا

Markdown

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.