تیم پژوهشی هوش مصنوعی مایکروسافت از MAI-Base-2، یک مدل پایه با ۲ تریلیون پارامتر، رونمایی کرد. این مدل از معماری ترکیبی از متخصصان (MoE) استفاده می‌کند که در هر درخواست فقط ۸۰ میلیارد نورون را فعال می‌کند و در آزمایش‌های داخلی، تا ۱۲ برابر بهره‌وری سخت‌افزاری بیشتری دارد. آموزش مدل ۳۸ روز روی ۱۶٬۰۰۰ تراشه Nvidia GB200 و با مجموعه‌داده‌ای شامل ۵۰ تریلیون توکن انجام شد که مؤلفه‌ای بینایی نیز دارد. مایکروسافت وزن‌های مدل را از طریق Azure در اختیار شرکای مورداعتماد قرار می‌دهد و مدل‌های زبانی بزرگ پایین‌دستی را بر پایه آن می‌سازد.
چرا مهم است
توسعه‌دهندگانی که از طریق Azure به مدل دسترسی پیدا کنند، می‌توانند با توان محاسباتی کمتر، سرویس‌های هوش مصنوعی توانمندتری بسازند.
