Este trabajo introduce un marco conceptual unificado para los modelos de difusión de denoising discretos (DDM) que los ve a través de la construcción de su espacio de estados discreto subyacente. Demuestra cómo las formulaciones existentes, incluyendo enfoques basados en matrices de transición, enmascaramiento/estados absorbentes y puntuación/relación, emergen como diferentes instanciaciones de un espacio de diseño común.
- El marco destaca cómo los DDM están fundamentalmente moldeados por esquemas de tokenización, topología del vocabulario y alfabetos estructurales específicos del dominio.
- Expone las compensaciones comunes de diseño entre objetivos de entrenamiento, algoritmos de inferencia, comportamiento de escalado, optimización de sistemas y protocolos de evaluación.
- Los autores sugieren varias direcciones prometedoras para futuras investigaciones basadas en estas compensaciones expuestas.