Microsoft는 새 기반 모델 MAI-Base-2의 사전학습을 마쳤다고 밝혔다. 이 모델은 Mixture of Experts 구조를 쓰며, 총 2.8 trillion 파라미터와 활성 80 billion 파라미터를 갖는다. 회사 설명에 따르면 MAI-Base-2는 내부의 홀드아웃 평가에서 테스트한 모든 공개 가중치 모델보다 높은 성능을 보였다. 또한 총 파라미터가 1 trillion 이상인 다른 모델들과의 사전학습 평가 비교도 제시했다.

기술적으로 눈에 띄는 점은 학습 효율이다. Microsoft는 MAI-Base-2가 가장 강한 공개 기반 모델로 지목한 DeepSeek-V4-Pro-Base보다 사전학습 FLOPs 효율이 4~12배 높다고 설명했다. 이 절감분을 더 큰 모델 학습에 투입했다고도 밝혔다. 회사는 학습 데이터가 다른 모델 증류가 아닌 유기적 데이터에 기반하며, 전체 모델 파이프라인과 인프라를 직접 운영한다고 덧붙였다. MAI-Base-2는 현재 후속 학습 단계에 있으며, 이후 결과를 추가로 공개할 예정이라고 했다.