IBM выпустила Granite Time Series PatchTST-FM-r2, базовую модель временных рядов с ~385 млн параметров, которая демонстрирует лучшие результаты в zero-shot режиме на лидерборде GIFT-Eval при использовании разрешительных коммерческих лицензий.
- Модель использует обновленную архитектуру с блоками conformer, сочетающими многоголовое самовнимание и временную свертку для захвата долгосрочных и краткосрочных зависимостей.
- Она поддерживает контексты до 8192 шагов и генерирует вероятностные прогнозы через голову предсказания по 99-квантилям.
- PatchTST-FM-r2 занимает #2 место среди воспроизводимых zero-shot моделей на GIFT-Eval и является лидером среди тех, что имеют разрешительное лицензирование.
- Корпус для предварительного обучения включает синтетические данные и наборы данных вне набора оценки GIFT-Eval для предотвращения утечки бенчмарка.
- Веса, архитектура и код инференса доступны по двойным лицензиям Apache 2.0 и OpenMDW 1.0.
Выпуск направлен на снижение барьеров для внедрения предприятиями за счет предоставления прозрачной документации обучающих данных и коммерчески дружественного лицензирования вместе с возможностями интеграции потоковой передачи.