DSparkは、半自己回帰的なドラフト生成と適応的で負荷 aware な検証を組み合わせることで、大規模言語モデル（LLM）の推論を加速するために設計された推測的デコーディングフレームワークです。既存の並列ドラフターに見られる受容率の減衰とスループット低下の問題に対処します。

  • DSparkは、並列バックボーンと軽量な逐次モジュールを結合してブロック内依存性をモデル化する半自己回帰的アーキテクチャを利用しています。
  • このシステムは、信頼度スケジュール付き検証を採用し、接頭辞の生存確率とスループットプロファイルに基づいて動的に検証長を調整します。
  • オフラインベンチマークにおいて、DSparkは最先端の自己回帰的および並列ドラフターと比較して、受容長を大幅に改善します。
  • 実際のトラフィック下でのDeepSeek-V4サービングシステムでは、DSparkはMTP-1ベースラインと比較してユーザーあたりの生成速度を60〜85％加速します。

検証の無駄を防ぎ、厳格な対話制約下でのスループット低下を緩和することで、DSparkは生産環境では以前達成不可能だったパフォーマンスティアを実現可能にします。