Esta encuesta aborda la brecha entre la ventaja teórica de generación paralela de los modelos de lenguaje grandes de difusión (dLLMs) y su velocidad práctica de inferencia. Introduce un marco unificado de descomposición de latencia diseñado para desacoplar los factores algorítmicos, arquitectónicos y a nivel de sistema que impactan el despliegue en el mundo real.
Los autores categorizan las técnicas de aceleración a lo largo de tres ejes: innovaciones algorítmicas, optimizaciones arquitectónicas y de sistema, y escalado durante la inferencia. El trabajo proporciona pautas para la evaluación comparativa reproducible para abordar la dificultad de las comparaciones rigurosas en estudios existentes.
Al analizar estos compromisos, la encuesta destaca los desafíos abiertos para realizar el pleno potencial de la generación paralela en dLLMs.