مایکروسافت اعلام کرد خانواده Azure Maia از سال ۲۰۲۷ در استقرارهایی با ظرفیت چند گیگاوات به‌کار گرفته می‌شود. شتاب‌دهنده جدید Maia 300 برای پردازش استنتاجیِ نیازمند پنجره زمینه طولانی و رمزگشایی سنگین ساخته شده، نه آموزش مدل‌ها. مایکروسافت می‌گوید Maia 300 به‌ازای هر مگاوات ۴۰٪ توکن بیشتر از سامانه‌های پیشرو مبتنی بر GPU پردازش می‌کند و توان عملیاتی توکن در مقیاس رک آن تا هفت برابر Maia 200 خواهد بود.
Maia 300 چه مشخصاتی دارد؟
هر شتاب‌دهنده Maia 300 به هشت پشته حافظه HBM4 مجهز است و در محدوده توان 950 وات، 288 GB حافظه پرسرعت با پهنای باند 18 TB/s ارائه می‌دهد. هر رک 96 شتاب‌دهنده را در 24 سینی جای می‌دهد، 167 kW برق مصرف می‌کند و 27.6 TB حافظه HBM با پهنای باند تجمیعی 1.7 PB/s دارد. این تراشه‌ها با فرایند N2P شرکت TSMC ساخته شده‌اند و از چیدمان حافظه NUMA استفاده می‌کنند تا نرم‌افزار بتواند داده‌ها را نزدیک هسته‌های پردازشی نگه دارد.
شبکه این سامانه از یک پروتکل انتقال اختصاصی هوش مصنوعی روی Ethernet استفاده می‌کند. شتاب‌دهنده‌ها می‌توانند در یک «ابرپاد» در مقیاس رک، بدون دخالت CPU میزبان یا کارت شبکه جداگانه، مستقیماً با هر شتاب‌دهنده دیگری ارتباط برقرار کنند. امکان اتصال حداکثر 128 رک وجود دارد و در نتیجه ابرپادی با 12,288 شتاب‌دهنده شکل می‌گیرد. مایکروسافت می‌گوید این بستر شبکه امکان می‌دهد یک سینی جایگزین، بی‌آنکه فرایند مختل شود، جای سینی ازکارافتاده را بگیرد.
واکنش‌ها به ادعای بهره‌وری
معیار اصلی اعلام‌شده، یعنی تعداد توکن به‌ازای هر وات، از سوی برخی کاربران «مضحک» خوانده شده است. آن‌ها می‌گویند تعریف توکن یکسان نیست و این معیار عواملی مانند تأخیر یا هزینه هر توکن را در نظر نمی‌گیرد. منتقدان همچنین می‌پرسند ادعای بهبود ۴۰درصدی بر اساس چه طول پنجره زمینه‌ای مطرح شده است و یادآوری می‌کنند که پردازش‌های دارای پنجره زمینه طولانی اغلب به‌جای توان پردازشی، با محدودیت حافظه روبه‌رو هستند.
چرا مهم است
برای کاربران سرویس‌های خود مایکروسافت، سخت‌افزار جدید در صورت درست بودن ادعای بهره‌وری می‌تواند پاسخ‌گویی سریع‌تر و هزینه انرژی کمتر به‌همراه داشته باشد. بااین‌حال، مایکروسافت نگفته است که مشتریان بیرونی می‌توانند ظرفیت Maia را اجاره کنند یا نه؛ بنابراین فعلاً ممکن است این مزیت فقط در محصولات خود مایکروسافت در دسترس باشد.
