Karya ini memperkenalkan kerangka konseptual terpadu untuk model difusi denoising diskrit (DDMs) yang memandangnya melalui konstruksi ruang keadaan diskrit mendasarnya. Karya ini mendemonstrasikan bagaimana formulasi yang ada, termasuk pendekatan matriks transisi, masking/state menyerap, dan skor/rasio, muncul sebagai instansiasi berbeda dari ruang desain bersama.
- Kerangka ini menyoroti bagaimana DDMs secara fundamental dibentuk oleh skema tokenisasi, topologi kosakata, dan alfabet struktural spesifik domain.
- Kerangka ini mengekspos trade-off desain umum di seluruh tujuan pelatihan, algoritma inferensi, perilaku penskalaan, optimisasi sistem, dan protokol evaluasi.
- Penulis menyarankan beberapa arah penelitian masa depan yang menjanjikan berdasarkan trade-off yang terekspos tersebut.