30秒サマリー
- 取引法務文書のLLM分析で「全件注入」より構造的検索が大幅に効率的であることが定量的に示された
- NAVINDEXは全18問で全件注入と同等の精度を維持しつつ、回答コンテキストを約56分の1、コストを25%削減
- コーパスサイズが検索ペイロードの約10倍未満なら全件注入が有利という判断基準も数式で導出
何が起きたか
2026年7月7日にarXivに投稿された論文（Mahmoud Hanyら4名、arXiv:2607.05764）は、取引法務文書群をLLMで分析する際の検索手法を比較した。全文書をLLMのコンテキストウィンドウに毎回投入する「全件注入（injection）」を基準に、独自の構造認識チャンキングを用いた2種類の検索モード——埋め込み検索（NAVEMBED）とコンパクトな構造インデックスをLLMが辿るナビゲーション型（NAVINDEX）——を評価した。
検証は正解付き20問のベンチマークで実施。NAVEMBEDは文書依存の18問中16問で全件注入と同等と判定され、消費入力トークン数は17.3分の1（GTE構成では29.9分の1）に抑えられた。NAVINDEXは18問すべてで全件注入と同等と判定されつつ、回答コンテキストのトークン数を約56分の1、総トークンフットプリントを1.61分の1小さくし、ドルコストを25%削減できることが示された。なお、範囲外の2問については両モードとも全件注入と同等と判定されている。
さらに研究チームは、キャッシュを活用した全件注入が検索方式より安くなる条件を閉形式の数式で導出した。文書コーパスのサイズが「検索ペイロードの約10倍未満」であれば全件注入がドルコスト面で有利になり、それを超えると検索方式が経済合理的になるという判断基準を提示した。
原典ハイライト
NAVINDEXは全18問で全件注入と回答精度が同等と判定され、回答コンテキストのトークン数を約56分の1、総トークンフットプリントを1.61分の1小さくし、ドルコストを25%削減。全件注入がドルコスト面で有利になる条件は「コーパスサイズが検索ペイロードの約10倍未満」という閉形式の基準として導出された（出典：arXiv:2607.05764）。
出典: arXiv cs.CL（論文）
So What?（なぜ重要か）
「とりあえず全文書をLLMに渡す」という直感的な実装は、文書量が増えるにつれてコストと精度劣化（long-context degradation）の両面でペナルティが拡大する。本研究は、構造的な検索設計によって精度を落とさずにコストを大幅圧縮できることを定量的に示した事例であり、法務AIのROI試算の前提を見直す契機となりうる。ただし本研究はプロプライエタリな構造認識チャンキングを用いており、結果がどの程度汎用的に再現されるかは論文の範囲では明確に示されていない点に留意が必要。
日本企業への示唆
法務・契約レビューにLLMを導入中または検討中の日本企業にとって、「全文書注入」前提のPoC設計はコスト過大評価につながるリスクがある。文書量が一定規模を超えるプロジェクトでは、構造認識チャンキング＋インデックスナビゲーション型の設計を採用することで、APIコスト削減の余地が生まれる可能性がある。ベンダー選定時には「全件注入型か検索型か」を明示的に確認し、コーパス規模別のコスト試算を取り寄せることを推奨する。なお、本研究が用いたチャンキング手法は独自開発のものであり、市販・汎用ツールへの直接適用可否については原文で言及がないため、自社環境での検証が前提となる。
背景・経緯
LLMの長文コンテキスト対応が進む中、文書をそのまま大量投入する手法が普及しつつある。しかし長文コンテキストではモデルの注意が分散しやすく（long-context degradation）、かつAPIコストはトークン数に比例するため、大規模な法務文書管理では非効率が顕在化しやすい。こうした背景から、法務分野に特化した検索最適化の研究が求められている。
