IBM은 관대한 상업적 라이선스 하에서 GIFT-Eval 리더보드에서 최첨단 제로샷 성능을 달성하는 약 385M 파라미터 규모의 시계열 파운데이션 모델인 그라나이트 시계열 PatchTST-FM-r2를 출시했습니다.

  • 이 모델은 다중 헤드 셀프 어텐션과 시간적 합성곱을 결합한 콘포머 블록을 사용하여 장기 및 단거리 관계를 포착하는 업데이트된 아키텍처를 사용합니다.
  • 최대 8,192 스텝의 컨텍스트를 지원하며, 99-양자 예측 헤드를 통해 확률적 예측을 생성합니다.
  • PatchTST-FM-r2는 GIFT-Eval에서 재현 가능한 제로샷 모델 중 전체 2위를 차지했으며, 관대한 라이선스를 가진 모델 중 최고 성능을 기록했습니다.
  • 사전 학습 코퍼스에는 벤치마크 누수를 방지하기 위해 합성 데이터와 GIFT-Eval 평가 세트 외부의 데이터셋이 포함되었습니다.
  • 가중치, 아키텍처 및 추론 코드는 Apache 2.0과 OpenMDW 1.0 라이선스 하에서 제공됩니다.

이번 출시는 스트리밍 통합 기능과 함께 투명하게 문서화된 학습 데이터와 상업적 이용에 우호적인 라이선스를 제공함으로써 기업의 채택 장벽을 낮추는 것을 목표로 합니다.