IBM a publié Granite Time Series PatchTST-FM-r2, un modèle fondamental de séries temporelles d'environ 385 millions de paramètres qui atteint des performances zero-shot de pointe sur le classement GIFT-Eval sous des licences commerciales permissives.

  • Le modèle utilise une architecture mise à jour avec des blocs conformer combinant l'auto-attention multi-têtes et la convolution temporelle pour capturer les relations à longue et courte portée.
  • Il prend en charge des contextes allant jusqu'à 8 192 pas et génère des prévisions probabilistes via une tête de prédiction par quantile à 99.
  • PatchTST-FM-r2 se classe au 2e rang global parmi les modèles zero-shot reproductibles sur GIFT-Eval et est le meilleur performer parmi ceux disposant d'une licence permissive.
  • Le corpus de pré-apprentissage inclut des données synthétiques et des ensembles de données extérieurs à l'ensemble d'évaluation GIFT-Eval pour éviter la fuite des benchmarks.
  • Les poids, l'architecture et le code d'inférence sont disponibles sous les doubles licences Apache 2.0 et OpenMDW 1.0.

Cette publication vise à réduire les barrières à l'adoption pour les entreprises en fournissant une documentation transparente des données d'entraînement et une licence compatible avec les usages commerciaux, ainsi que des capacités d'intégration en streaming.