DSpark는 반자기회귀적 초안 생성과 적응형 부하 인식 검증을 결합하여 대규모 언어 모델(LLM) 추론을 가속화하도록 설계된 추측 디코딩 프레임워크입니다. 이는 기존 병렬 초안 작성기에서 발견되는 수용 감소와 처리량 저하 문제를 해결합니다.
- DSpark는 병렬 백본과 경량 순환 모듈을 결합하여 블록 내 종속성을 모델링하는 반자기회귀적 아키텍처를 활용합니다.
- 이 시스템은 접두사 생존 확률과 처리량 프로파일에 기반하여 검증 길이를 동적으로 조정하는 신뢰도 예약 검증을 사용합니다.
- 오프라인 벤치마크에서 DSpark는 최신 자기회귀적 및 병렬 초안 작성기보다 수용 길이를 크게 개선합니다.
- 실시간 트래픽 하의 DeepSeek-V4 서빙 시스템에서 DSpark는 MTP-1 기준선 대비 사용자당 생성 속도를 60~85% 가속화합니다.
검증 낭비를 방지하고 엄격한 상호작용 제약 조건 하에서 처리량 저하를 완화함으로써, DSpark는 생산 환경에서 이전에 달성할 수 없었던 성능 계층을 가능하게 합니다.