Microsoft, 2조 매개변수 기반 모델 MAI-Base-2 공개

새 모델은 전문가 혼합(MoE) 구조를 채택했으며, 주요 오픈소스 모델보다 하드웨어 효율이 최대 12배 높다고 밝혔다.

짧은 소식작성: OossaOossa 게시일: 2026년 10월 17일 오전 1:06 UTC1 분 읽기

Microsoft의 AI 연구팀이 2조 매개변수 기반 모델 MAI-Base-2를 발표했다. 이 모델은 프롬프트마다 800억 개의 뉴런만 활성화하는 전문가 혼합(MoE) 아키텍처를 사용해, 내부 테스트에서 하드웨어 효율을 최대 12배 높였다. 비전 구성 요소를 포함한 50조 토큰 데이터셋으로 Nvidia GB200 칩 16,000개를 사용해 38일간 학습했다. Microsoft는 Azure를 통해 신뢰할 수 있는 파트너에게 모델 가중치를 라이선스하고, 이를 기반으로 후속 LLM을 개발할 예정이다.