O DSpark é um framework de decodificação especulativa projetado para acelerar a inferência de Modelos de Linguagem Grande (LLM) combinando geração semi-autoregressiva de rascunhos com verificação adaptativa e consciente da carga. Ele aborda os problemas de decaimento na aceitação e degradação de throughput encontrados em geradores de rascunho paralelos existentes.

  • O DSpark utiliza uma arquitetura semi-autoregressiva que acopla um backbone paralelo com um módulo sequencial leve para modelar dependências intra-bloco.
  • O sistema emprega verificação agendada por confiança para adaptar dinamicamente o comprimento da verificação com base nas probabilidades de sobrevivência do prefixo e nos perfis de throughput.
  • Em benchmarks offline, o DSpark melhora substancialmente o comprimento aceito em comparação com os geradores de rascunho autoregressivos e paralelos mais avançados.
  • No sistema de serviço DeepSeek-V4 sob tráfego real, o DSpark acelera as velocidades de geração por usuário entre 60% e 85% em comparação com a linha de base MTP-1.

Ao prevenir o desperdício de verificação e mitigar a degradação do throughput sob restrições estritas de interatividade, o DSpark permite níveis de desempenho anteriormente inatingíveis em ambientes de produção.