Mira Murati의 Thinking Machines Lab은 첫 번째 오픈 웨이트 멀티모달 모델인 Inkling을 출시했습니다. 이 모델은 총 975B 파라미터와 41B 활성 파라미터를 가진 Mixture-of-Experts 트랜스포머로, 텍스트, 이미지, 오디오, 비디오 45조 토큰으로 학습되었습니다.

  • Apache-2.0 라이선스에 따라 Inkling은 최전방 추론 모델이 아니라 연구소의 Tinker 플랫폼을 통한 파인튜닝을 위한 강력한 베이스 모델로 위치되어 있습니다.
  • 더 작은 변형인 Inkling-Small(총 276B, 활성 12B)은 현재 테스트 중이며 완료 시 가중치가 출시될 예정입니다.
  • 학습 데이터 문서에는 퍼블릭 도메인 콘텐츠와 오픈 인터넷 및 제3자로부터 공개적으로 이용 가능한 데이터의 사용이 명시되어 있습니다.

이번 출시는 멀티모달 기능과 효율적인 사고를 제공하여 오픈 웨이트 생태계에 실효성 있는 미국 기반 경쟁자를 제공하는 것을 목표로 합니다.