Microsofts AI-forskarteam har presenterat MAI-Base-2, en basmodell med 2 biljoner parametrar. Den använder en blandning-av-experter-arkitektur (MoE) som aktiverar endast 80 miljarder neuroner per prompt, vilket enligt interna tester gör den upp till 12 gånger mer hårdvarueffektiv. Modellen tränades i 38 dagar på 16 000 Nvidia GB200-chip med en datamängd på 50 biljoner token, inklusive en bildkomponent. Microsoft kommer att licensiera modellens vikter till betrodda partner via Azure och bygga vidare på den för att ta fram efterföljande LLM-modeller.
Varför det spelar roll
Utvecklare som får tillgång via Azure kan bygga mer kapabla AI-tjänster och samtidigt använda mindre beräkningskraft.
