投機的デコード（Speculative Decoding）は、軽量なドラフトモデルが複数のトークン候補を先読みし、大規模なターゲットモデルが1回の処理でまとめて検証することで、出力品質を損なわずにLLMの推論を高速化する技術である。DSparkは、この手法をさらに進化させたオープンソースの推論加速フレームワークで、北京大学のXin Cheng氏らとDeepSeekの共同研究チームによって開発された。
概要
投機的デコードは、LLMのデコード処理において生成速度を向上させるための技術的アプローチである。通常のLLM推論ではトークンを1つずつ逐次生成するが、投機的デコードでは軽量なドラフトモデルが複数候補を先行生成し、大規模なターゲットモデルがそれらを並列検証することで処理を効率化する。DSparkはこの枠組みに「半自己回帰生成」と「信頼度スケジューリング検証」を組み合わせることで、従来手法（EAGLE-3、DFlashなど）が抱えていた課題を克服するフレームワークとして位置づけられる。論文はarXivに2026年7月6日に登録されており、コードは「deepseek-ai/DeepSpec」としてGitHubで公開されている。
仕組み・ポイント
DSparkは主に3つのコンポーネントで構成される。
1. 半自己回帰ドラフトヘッド
ターゲットモデルのコンテキスト特徴量を利用した並列バックボーンが、1回のフォワードパスでブロック内の全ドラフトトークンの隠れ状態を生成する。さらに軽量なシーケンシャルヘッド（マルコフ連鎖モデル）を組み合わせることでトークン間の依存関係を注入し、後半トークンの採択率（Acceptance Rate）の低下を防ぐ。
2. 信頼度スケジューリング検証
信頼度ヘッドが各トークンの採択確率を予測し、システムの負荷や信頼度に応じて検証するトークン長を動的に調整する。従来手法では検証コストが固定であったが、DSparkはこれを可変にすることで無駄な計算コストを削減する。
3. ターゲットモデルの効率的な再利用
ドラフトモジュールはターゲットモデルの埋め込み層と出力ヘッドを共有・フリーズして利用するため、新たにトレーニングが必要なパラメータをバックボーン・特徴投影・マルコフヘッド・信頼度ヘッドのみに限定できる。これにより導入コストを抑えながら高い加速効果を得られる。出力品質はロスレス、すなわち精度を一切落とさずに高速化が実現される。
なぜ今注目されているのか
DSparkは実際のDeepSeek-V4システムに適用され、ユーザーごとの生成速度が従来比で60〜85%向上したことが実証されている（他モデルへの適用も含めると50〜400%の高速化を達成）。Hugging Face上では「DeepSeek-V4-Pro-DSpark」「DeepSeek-V4-Flash-DSpark」がMITライセンスで公開されており、再利用しやすい環境が整っている。2026年8月にはLiquid AIが小型モデル「LFM2.5」シリーズへDSparkを適用し、精度を維持したまま最大3.2倍の高速化を達成したと発表した。NVIDIAの「Nemotron 3.5 Lightning」やQwen3.8、Gemma-4
※ 本ページはAI News JAPAN編集部が最新の動向を踏まえて解説したものです。内容は随時見直します。
