프랑스 AI 기업 미스트랄이 한국 시간 6일 오후 9시 미스트랄 라지 4를 API 퍼블릭 프리뷰로 공개했다. 모델 문서 기준 총 파라미터는 1조500억 개(1.05T), 한 번에 계산에 쓰는 활성 파라미터는 520억 개, 컨텍스트는 100만 토큰이다. 가중치와 라이선스는 문서에 ‘공개 예정(Coming soon)’으로만 표시돼 있고, 미스트랄은 가중치를 이달 말까지 공개하겠다고 밝혔다.
모델은 전문가 혼합(MoE) 구조다. 요청마다 전체 파라미터가 아니라 일부만 계산에 쓰기 때문에 520억 개는 전체의 약 5%에 그친다. 발표문이 ‘1조 파라미터’라고 적은 것은 1.05T를 반올림한 표현이다. 미스트랄은 엔비디아 그레이스 블랙웰 GPU 3,800개로 유럽 자체 데이터센터에서 이 모델을 처음부터 학습했다고 밝혔다. 학습 데이터는 160개 이상 언어를 담았고, EU 공식 언어도 모두 들어 있다.
| 항목 | 내용 |
|---|---|
| 총 파라미터 | 1조500억 개(1.05T) |
| 활성 파라미터 | 520억 개(52B), 총 파라미터의 약 5% |
| 비전 인코더 | 16억 개(1.6B) |
| 컨텍스트 | 100만 토큰 |
| 가중치 | 공개 예정(회사 측 이달 말까지) |
| 라이선스 | 미정(Coming soon) |
| 상태 | API 퍼블릭 프리뷰(2026년 10월 6일) |
자료: 미스트랄 모델 문서·발표문(2026년 10월 6일, 10월 9일 조회)
가중치·라이선스는 아직…활성 파라미터 표기도 490억→520억
미스트랄은 가중치를 내놓기 전까지 사이버보안 기업, 검증된 파트너, 국가기관과 실제 환경에서 레드팀 시험을 한다고 밝혔다. 이들은 모더레이션을 완화하고 사이버 기능을 넓힌 같은 모델에 접근한다고 덧붙였다.
공식 수치도 하루 사이 엇갈렸다. 미스트랄 공식 X 계정의 출시 게시물과 출시 당일 일부 보도는 활성 파라미터를 490억 개로 적었다. 9일 확인한 모델 문서와 발표문에는 520억 개로 나와 있다. 수치가 왜 바뀌었는지는 확인되지 않았다.
성능 수치도 같은 처지다. 지금까지 나온 벤치마크 결과는 모두 미스트랄이 직접 발표한 것이라 독립 검증은 거치지 않았다. 발표문은 이번 프리뷰를 만든 강화학습이 아직 진행 중이라고 적었다.
미스트랄은 가중치 공개에 맞춰 모델 구조 세부와 추가 벤치마크, 사후학습 방법을 공개하겠다고 밝혔다. 그때까지는 프리뷰 API로만 쓸 수 있다.
연관 기사
