公開:2026年11月7日, 最終更新:2026年11月7日
Hanzhang Qinら4名の研究者が2026年11月4日、固定予算制約の下で複数のLLMへの問い合わせを動的に割り当て、解決タスク数を最大化するルーティング手法「ADP-HT」をarXivに投稿した。
30秒サマリー
- 固定予算でLLMを運用する企業向けに、タスクごとにどのモデルを呼ぶかを動的に決める手法ADP-HTを提案
- 応答長を量子化したコスト推定と文脈的バンディット方策を組み合わせ、予算超過リスクを抑えながら成功率を最大化
- MATH500・GPQA・LiveCodeBenchの実験で、主要ベースラインや商用ルーターを上回る成果を報告
ADP-HTの提案内容と実験結果
論文は、LLMをAPI利用する企業が直面する課題として、1回の呼び出しのコストが完了後にしか判明しないため、長い応答が残予算を使い果たし後続タスクが処理できなくなるリスクを指摘する。これに対し研究チームは、文脈的バンディット(contextual bandit)の枠組みに基づくポリシー「ADP-HT」を開発した。
ADP-HTは各モデルのタスク固有の成功確率を学習しつつ、応答長を2のK乗個の区間に量子化したグリッド上でコストの保守的推定値を構築する。予測される成功確率とコストを照合し、実際の支出と残タスクあたりの利用可能予算に応じてコストペナルティを調整する仕組みだ。論文はキャリブレーション・局所正則性・グリッドカバレッジの各条件のもとで、保守的コスト推定における超過許容量の上界を導出している。
実験では、最も厳しい予算条件において、ADP-HTはMAth500およびGPQAのタスクを最良ベースラインの2倍超解決したと報告している。RouterBenchの14予算設定のうち10で最高の平均累積スコアを達成し、LiveCodeBenchではデフォルトモードとコスト節約モードの双方で、テスト対象の最低3予算帯において既存の商用ルーターを上回ったとしている。
ADP-HTの主な仕様・数値
- 手法名:ADP-HT
- コスト量子化グリッド区間数:2^K 個
- 評価ベンチマーク:MATH500、GPQA、RouterBench、LiveCodeBench
- RouterBenchでの最高スコア達成数:14予算設定中10
- 厳しい予算条件での改善倍率:最良ベースライン比2倍超(MATH500・GPQA)
- 論文投稿日:2026年11月4日
- arXiv ID:arXiv:2611.05835
出典: arXiv cs.LG(論文)
なぜ重要か(編集部の分析)
編集部の見方として、LLMのAPI利用コストは応答長が事前に読めないため予算管理が困難だが、ADP-HTはこの不確実性を量子化コスト推定で吸収しながらタスク解決数を最大化する点が新しい。予算枠が厳しいほど従来手法との差が広がる実験結果は、コスト効率を重視する実務ユースケースで特に有望だといえる。
日本企業への示唆(編集部の分析)
編集部の分析として、日本企業がLLM APIを業務に組み込む際、月次・案件別の予算上限の中で品質を確保することは現実的な経営課題となっている。ADP-HTの考え方—「コールのたびに残予算を再計算してモデル選択とリトライを判断する」—は既存の単一モデル呼び出しやルールベースルーターを置き換える設計指針になりうる。今後この手法がOSSや商用ルーターに実装されれば、API費用削減とタスク完了率の両立を調達・システム要件に盛り込めるようになるとみられる。
背景・経緯
LLMをAPIとして利用するサービスでは、モデルごとに料金体系と性能が異なるため、どのモデルにリクエストを振り分けるかを自動化する「LLMルーティング」研究が進んでいる。本論文は固定予算という制約をオンライン意思決定(バンディット問題)として定式化し、コスト推定と成功確率学習を統合した点が従来研究と異なるとみられる。なお、商用ルーターとの比較がLiveCodeBenchで行われているが、比較対象の製品名は原文では言及されていない。
ADP-HTについてよくある質問
Q. ADP-HTはどのようにしてLLM呼び出しのコストを予測するのか?
A. ADP-HTは応答長を2のK乗個の区間に分割した量子化グリッドを用い、各モデルの応答長ラベルから保守的なコスト推定値を構築する。Kを大きくすると量子化誤差は減るが推定に必要なサンプルが増えるトレードオフがある、と論文は述べている。
Q. ADP-HTはどのベンチマークで既存手法を上回ったのか?
A. 論文によると、MATH500とGPQAの最も厳しい予算条件でベースライン比2倍超のタスク解決数を達成し、RouterBenchの14予算中10で最高平均累積スコアを記録した。LiveCodeBenchでは最低3予算帯で商用ルーターを上回ったとしている。
Q. ADP-HTが解決しようとしているLLM運用上の問題は何か?
A. 1回のAPI呼び出しのコストが完了後にしか判明しないため、長い応答が残予算を消費し後続タスクを処理できなくなるリスクが問題として挙げられている。ADP-HTはこの不確実性のもとで解決タスク数を最大化することを目的としている。




