이 서베이(dLLMs)의 이론적 병렬 생성 이점과 실제 추론 속도 간의 격차를 해결합니다. 이는 실제 배포에 영향을 미치는 알고리즘, 아키텍처 및 시스템 수준의 요인을 분리하기 위해 설계된 통합 지연 시간 분해 프레임워크를 소개합니다.
저자들은 가속화 기술을 세 가지 축을 따라 분류합니다: 알고리즘 혁신, 아키텍처 및 시스템 최적화, 그리고 추론 시간 확장. 이 작업은 기존 연구에서 엄격한 비교의 어려움을 해결하기 위한 재현 가능한 벤치마킹에 대한 지침을 제공합니다.
이러한 트레이드오프를 분석함으로써, 이 서베이(dLLMs)는 병렬 생성의 잠재력을 완전히 실현하기 위한 열린 과제를 강조합니다.