Авторы предлагают Diffusion-LLM, фреймворк, который интегрирует условную диффузионную модель в конвейер на основе LLM для решения задач прогнозирования мультимодальных временных рядов. Такое совместное проектирование позволяет обучаться будущим распределениям данных, одновременно улучшая семантическое выравнивание в общем латентном пространстве.
- Интегрирует условную диффузионную модель с большими языковыми моделями для задач временных рядов.
- Повышает устойчивость и обобщающую способность за счет регуляризации, учитывающей распределение.
- Оценен на шести бенчмарках долгосрочного прогнозирования, включая ETT, Weather и ECL.
- Демонстрирует заметные улучшения в сценариях сверхдлинногоризонтного и few-shot прогнозирования.
Метод демонстрирует ценность регуляризации, учитывающей распределение, для повышения устойчивости и обобщающей способности LLM для временных рядов.