IBMは、寛容な商用ライセンスの下でGIFT-Evalリーダーボードにおいて最先端のゼロショットパフォーマンスを達成する約385Mパラメータの時系列ファウンデーションモデルであるGranite Time Series PatchTST-FM-r2をリリースしました。

  • このモデルは、マルチヘッド自己注意機構と時間畳み込みを組み合わせて長距離および短距離の関係を捉えるコンフォーマーブロックを用いた更新されたアーキテクチャを採用しています。
  • 最大8,192ステップのコンテキストをサポートし、99量子化予測ヘッドを通じて確率的な予測を生成します。
  • PatchTST-FM-r2はGIFT-Evalにおける再現可能なゼロショットモデルの中で総合的に2位であり、寛容なライセンスを持つモデルの中では最上位のパフォーマンスを示しています。
  • 事前学習コーパスには、ベンチマークリーケージを防ぐために合成データとGIFT-Eval評価セット外のデータセットが含まれています。
  • ウェイト、アーキテクチャ、推論コードは、Apache 2.0およびOpenMDW 1.0のデュアルライセンスの下で利用可能です。

今回のリリースは、透明性のあるトレーニングデータのドキュメントと商用に優しいライセンス、さらにストリーミング統合機能を提供することで、企業の採用障壁を低減することを目指しています。