公開：2026年9月4日, 最終更新：2026年9月4日
30秒サマリー
- 追加学習なしでLLM推論を最大56%高速化する投機的デコード手法「AdaptiveSpec」が論文発表された
- トークン検証ルールとドラフトツリー形状の両方をステップごとに動的適応させる点が新しい
- 精度はGSM8KやHumanEval等で93〜100%を維持しつつ、EAGLE-3を上回るスループットを実現
何が起きたか
英国ケンブリッジ大学ほかの研究者らは2026年7月3日、LLM推論を高速化する手法「AdaptiveSpec」をarXivに投稿した。投機的デコードは候補トークンを先読みして並列検証することで推論を加速する技術だが、既存手法は「厳密なトークン一致検証」と「静的なドラフトツリー形状」を固定したまま運用しており、それぞれを単独で緩和する研究は存在したものの、両方を同時かつ追加学習なしで適応させる手法はなかったとしている。
AdaptiveSpecは2つの適応機構を持つ。第1の「per-stepマージンルール」は、ターゲットモデルがドラフトトークンに与える確率と、そのモデルの上位1位確率の比率が閾値を超えた場合に、完全一致しないトークンでも採用を許容する仕組みで、ドラフト長やドラフターの構造に依存しない。第2の「per-stepツリーポリシー」は、ドラフトの上位1位信頼度と直近の採用履歴を組み合わせたシグナルをもとに、ドラフトツリーの深さ・幅・ノード数を動的に調整する。2つの機構は独立した軸で動作し、効果が重なるとしている。
実験は本番グレードの推論エンジンSGLang上で実施された。比較対象は最新の自己回帰型投機的デコード手法EAGLE-3で、DeepSeek-R1-Distill-Llama-8B、Llama-3.1-8B-Instruct、Qwen3-8Bの3モデルで評価した結果、スループットが最大56%向上した。精度面ではGSM8K、MATH-500、HumanEvalの各ベンチマークにおいて、完全無損失時の93〜100%の精度を維持したと報告している。
原典ハイライト
論文アブストラクトによると、AdaptiveSpecはEAGLE-3比で最大56%のスループット向上を達成しつつ、3つのベンチマーク・3モデルで無損失精度の93〜100%を回復。追加の学習やモデル改変が不要な点を特徴として強調している。
出典: arXiv cs.CL（論文）
So What?（なぜ重要か）
LLM推論コストはAI活用の最大ボトルネックの一つだが、AdaptiveSpecは追加学習なしで既存の推論エンジン（SGLang）上に実装できる点が実用上の意義として大きい。最大56%のスループット向上は同等の精度を保ちながらGPUコストを大幅に削減できる可能性を示しており、商用推論インフラへの応用が現実的な射程に入る。ただし本研究はarXiv段階の査読前論文であり、独立した再現検証はこれからとみられる。
日本企業への示唆
自社または外部API経由でLLMを大規模運用している日本企業にとって、推論コスト削減は経営上の優先課題となりつつある。AdaptiveSpecのような追加学習不要の高速化手法が実用化されれば、既存モデルへの適用だけでコスト構造が改善しうる。現時点では査読前論文のため直ちに採用判断はできないが、SGLangなど本番推論エンジンの動向と合わせて技術ロードマップに組み込む価値がある。自社推論基盤を持つ企業は実装可否の検証を技術チームに指示しておくことが望ましい。
背景・経緯
投機的デコードはドラフトモデルが候補トークンを先読みし、ターゲットモデルが並列検証することでLLM推論を高速化する手法。EAGLE-3はツリー型アテンションを用いた代表的な手法として広く採用されている。本論文はその検証ルールとツリー形状という2つの固定前提を同時に緩和することを目指したもので、SGLang推論エンジンを用いて本番環境に近い条件で評価している。
