DSpark est un framework de décodage spéculatif conçu pour accélérer l'inférence des grands modèles de langage (LLM) en combinant la génération de brouillons semi-autoregressive avec une vérification adaptative et consciente de la charge. Il répond aux problèmes de décroissance de l'acceptation et de dégradation du débit rencontrés dans les générateurs parallèles existants.
- DSpark utilise une architecture semi-autoregressive qui couple un noyau parallèle avec un module séquentiel léger pour modéliser les dépendances intra-bloc.
- Le système emploie une vérification planifiée par confiance pour adapter dynamiquement la longueur de vérification en fonction des probabilités de survie du préfixe et des profils de débit.
- Sur les benchmarks hors ligne, DSpark améliore substantiellement la longueur acceptée par rapport aux générateurs autoregressifs et parallèles de pointe.
- Dans le système de service DeepSeek-V4 sous trafic réel, DSpark accélère les vitesses de génération par utilisateur de 60 à 85 pour cent par rapport à la référence MTP-1.
En empêchant le gaspillage de vérification et en atténuant la dégradation du débit sous des contraintes d'interactivité strictes, DSpark permet des niveaux de performance auparavant inaccessibles dans les environnements de production.