Este trabalho introduz um framework conceitual unificado para modelos de difusão de denoising discretos (DDM) que os vê através da construção do seu espaço de estados discreto subjacente. Demonstra como as formulações existentes, incluindo abordagens baseadas em matriz de transição, mascaramento/estados absorventes e pontuação/razão, emergem como diferentes instanciações de um espaço de design comum.
- O framework destaca como os DDMs são fundamentalmente moldados por esquemas de tokenização, topologia do vocabulário e alfabetos estruturais específicos do domínio.
- Ele expõe as compensações comuns de design entre objetivos de treinamento, algoritmos de inferência, comportamento de escalamento, otimização de sistemas e protocolos de avaliação.
- Os autores sugerem várias direções promissoras para pesquisas futuras com base nessas compensações expostas.