Mistral은 총 1조 개의 파라미터와 490억 개의 활성 파라미터를 갖춘 대규모 언어 모델인 Mistral Large 4를 출시했습니다.

  • 이 모델은 그 규모를 달성하기 위해 Mixture of Experts 아키텍처를 사용합니다.
  • 모델의 오픈 웨이트는 이달 말에 출시될 예정입니다.

이번 출시는 이전 버전과 비교하여 훨씬 더 큰 파라미터 수로 경쟁 구도에 복귀한 Mistral을 나타냅니다.