스위스 AI는 멀티모달 기능과 새로운 추론 기능을 도입한 8B 및 70B 파라미터 언어 모델 군인 Apertus 1.5를 출시했습니다.

이 업데이트는 8B 모델의 경우 추가 멀티모달 혼합 데이터셋 4T 토큰, 70B 모델의 경우 2T 토큰에 대한 지속적 사전 학습을 포함합니다.

  • 이미지, 오디오, 텍스트를 포함한 멀티모달 입력을 지원하여 텍스트 응답을 생성합니다.
  • 모델이 응답을 생성하기 전에 입력에 대해 추론할 수 있도록 하는 "사고 모드"를 도입했습니다.
  • 기본 컨텍스트 길이를 262,144 토큰으로 늘려 Apertus 1.0 대비 4배 증가시켰습니다.
  • 개선된 사후 학습 레시피를 통해 지시 따르기 및 도구 사용 기능을 강화했습니다.
  • 광범위한 언어 지원을 유지하면서 가중치, 데이터 및 학습 세부 정보를 완전히 공개합니다.

이번 출시는 개발자에게 다재다능한 상호작용 옵션과 추론 작업에서의 향상된 성능을 제공함으로써 다국어, 멀티모달 및 투명한 AI의 발전에 기여하는 것을 목표로 합니다.