프랑스 AI 연구소 미스트랄이 새 대형 멀티모달 모델 ‘Mistral Large 4’를 공개했다. 별칭은 1조개 파라미터를 가리키는 ‘Le Chonk’다. 이 모델은 미국과 중국의 경쟁 모델 사이에서 대안을 노린다. 아직 오픈웨이트는 아니며, 현재는 공개 가드레일 엔드포인트를 통해서만 접근할 수 있다. 회사는 안전성 시험이 끝나면 3주 안에 가중치를 공개할 계획이라고 밝혔다. 그전까지는 신뢰할 수 있는 파트너와 정부와 협력해, 공개된 가중치가 방어 목적에는 쓰이되 악성 공격에는 쓰이지 않도록 하겠다고 설명했다.
기술적으로는 학습 인프라와 적용 분야가 핵심이다. 미스트랄에 따르면 ML4는 자사 컴퓨트만으로 학습됐고, 사용한 장비는 Nvidia GPU 4,000개다. 회사는 이 규모가 중국 경쟁사보다 2~3배 적고 비공개 모델 진영보다도 훨씬 적다고 말했다. 아직 벤치마크 결과는 나오지 않았지만, 미스트랄은 중국 외 지역의 오픈웨이트 모델 중 최고 수준을 목표로 한다고 밝혔다. 또 집중 학습을 통해 고객 수요가 큰 사이버보안, 금융, 칩 설계 같은 영역에서는 멀티모달 기능을 바탕으로 일부 비공개 모델보다 강한 성능을 노린다고 설명했다.