Google Researchは、ゼロショット時系列ファウンデーションモデルの第3世代であるTimesFM-3をリリースしました。バージョン2.5からの主な更新点は、微調整なしで複数の同時ターゲットと共変量を処理できるネイティブ多変量入力のサポートです。

  • アーキテクチャはデコーダー専用トランスフォーマーで、20層を持ち、交互の因果的注意機構とフル注意機構を使用して、トークンあたり32連続する時間ステップを処理します。
  • 予測は、マスクされたプレースホルダートークンを同時に埋めることで単一順伝播で生成され、各ターゲットに対して9つの量子化値（10パーセンタイル〜90パーセンタイル）を出力します。
  • 事前学習には、Wikipediaのページビュー、Googleトレンド、合成データなどを含む1兆以上の時間ポイントが利用されました。

このモデルは、Chronos-2、Toto 2.0、TimesFM-2.5と比較して、Gift-Eval、FEV-Bench、Timeベンチマークで最良の平均ランクを達成したと主張しています。

重みはHugging FaceおよびGitHub上でTimesFM Non-Commercial License v1.0の下で利用可能であり、将来的にはBigQueryとの統合が計画されています。