Diffusion-LLM consciente de la distribución para pronóstico robusto de series temporales a ultra largo plazo

Los autores proponen Diffusion-LLM, un marco que integra un modelo de difusión condicional en una pipeline basada en LLM para abordar desafíos en el pronóstico multimodal de series temporales. Este diseño conjunto permite el aprendizaje de las distribuciones futuras de datos mientras mejora la alineación semántica dentro de un espacio latente compartido.

• Integra un modelo de difusión condicional con Modelos de Lenguaje Grande para tareas de series temporales.
• Mejora la robustez y generalización mediante regularización consciente de la distribución.
• Evaluado en seis benchmarks de pronóstico a largo plazo, incluyendo ETT, Weather y ECL.
• Logra ganancias notables en escenarios de pronóstico ultra largo plazo y few-shot.

El método demuestra el valor de la regularización consciente de la distribución para mejorar la robustez y generalización en LLMs de series temporales.