Il team di ricerca sull’IA di Microsoft ha annunciato MAI-Base-2, un modello di base da 2 trilioni di parametri. Il modello usa un’architettura mixture of experts (MoE), che attiva solo 80 miliardi di neuroni per prompt, risultando fino a 12 volte più efficiente nell’uso dell’hardware nei test interni. È stato addestrato per 38 giorni su 16,000 chip Nvidia GB200, usando un dataset da 50 trilioni di token che include una componente visiva. Microsoft concederà in licenza i pesi del modello a partner selezionati tramite Azure e svilupperà modelli LLM derivati.
Perché conta
Gli sviluppatori che otterranno accesso tramite Azure potranno creare servizi di IA più potenti consumando meno risorse di calcolo.
