본 연구는 이산 디노이징 확산 모델(DDMs)을 위한 통합된 개념적 프레임워크를 도입하며, 이는 기초가 되는 이산 상태 공간의 구성을 통해 DDMs를 바라봅니다. 전이 행렬, 마스킹/흡수 상태, 스코어/비 기반 접근 방식을 포함한 기존 공식화들이 공통 설계 공간의 서로 다른 인스턴스화로 어떻게 나타나는지 보여줍니다.
- 이 프레임워크는 DDMs가 본질적으로 토큰화 방식, 어휘 위상학, 도메인 특이적 구조 알파벳에 의해 형성되는 방식을 강조합니다.
- 훈련 목적 함수, 추론 알고리즘, 스케일링 동작, 시스템 최적화, 평가 프로토콜 전반에 걸친 공통 설계 트레이드오프를 드러냅니다.
- 저자들은 이러한 드러난 트레이드오프를 바탕으로 향후 연구를 위한 몇 가지 유망한 방향을 제안합니다.