DSpark es un marco de decodificación especulativa diseñado para acelerar la inferencia de Modelos de Lenguaje Grande (LLM) combinando la generación de borradores semi-autoregresiva con una verificación adaptativa y consciente de la carga. Aborda los problemas de decaimiento en la aceptación y degradación del rendimiento encontrados en los generadores de borradores paralelos existentes.

  • DSpark utiliza una arquitectura semi-autoregresiva que acopla un núcleo paralelo con un módulo secuencial ligero para modelar dependencias intra-bloque.
  • El sistema emplea verificación programada por confianza para adaptar dinámicamente la longitud de la verificación basándose en las probabilidades de supervivencia del prefijo y los perfiles de rendimiento.
  • En benchmarks offline, DSpark mejora sustancialmente la longitud aceptada en comparación con los generadores de borradores autoregresivos y paralelos más avanzados.
  • En el sistema de servicio DeepSeek-V4 bajo tráfico real, DSpark acelera las velocidades de generación por usuario entre un 60 y un 85 por ciento en comparación con la línea base MTP-1.

Al prevenir el desperdicio de verificación y mitigar la degradación del rendimiento bajo estrictas restricciones de interactividad, DSpark permite niveles de rendimiento previamente inalcanzables en entornos de producción.