公開：2026年9月30日, 最終更新：2026年9月30日
30秒サマリー
- 複数ツールを使うMCPエージェントで「事実は正しいが出典が違う」誤帰属を検出する手法をMultiverse Computingが論文化
- ブロック対象クレームの検出F1スコアは0.802で、MiniCheck・RAGASなど既存4手法を上回ると報告
- 医療エージェントの実トレースで、ブロック対象139件中138件を正確に捕捉し、誤通過は1件のみ
何が起きたか
Multiverse Computingの研究チームは2026年9月29日、MCP（Model Context Protocol）を使うLLMエージェント向けの事後検証手法「ProvenanceGuard」を解説する公式ブログをHugging Faceに公開した。同手法の詳細はHugging FaceおよびarXivで公開中の論文「ProvenanceGuard: Source-Aware Factuality Verification for MCP-Based LLM Agents」に記述されている。
ProvenanceGuardが標的とする失敗パターンは「クロスソース混同（cross-source conflation）」と呼ばれるもので、証拠プール全体では事実として存在しているにもかかわらず、エージェントが誤った出典を引用してしまうケースを指す。従来のRAGAS faithfulness・MiniCheck・AlignScore・SummaC等の検証手法は証拠を一括して評価するため、この誤帰属を見過ごす可能性があると論文は指摘する。
ProvenanceGuardは生成後の検証レイヤーとして動作し、（1）回答をクレームに分解、（2）各クレームに最も関連するソースを特定、（3）そのソースが当該クレームを支持するか確認、（4）回答が明示・暗示する出典と照合、（5）クレーム単位の判定および回答全体のallow/blockを出力、という5段階を踏む。実験では医療エージェントの281件の実トレースを使用し、人間の専門家が「ブロックすべき」と判定した139クレームのうち138件を正確に検出した。reject/block F1スコアは0.802で、比較した4手法（MiniCheck 0.783、RAGAS Faithfulness 0.758、AlignScore 0.662、SummaC-ZS 0.436）を上回ったと報告されている。
ソースが類似する難条件での別テストでは、ブロック判定のF1は0.846を記録した一方、正確なソース特定率は50.3%にとどまり、類似ソース間の識別は今後の改善課題とされている。ブロックされた回答に対してはRARRスタイルの修正ループが適用され、報告されたローカル構成での処理オーバーヘッドは1回答あたり約0.5秒とされている。NVIDIAのNVFlowがファイナンスエージェント向けにProvenanceGuardのソース対応検証アプローチを取り入れた事例も紹介されている。同論文は2026年のAgentic AI Summit at UC Berkeleyでポスター発表されたとのことである。
原典ハイライト
人間の専門家がブロック対象と判定した139クレームのうち138件をProvenanceGuardが検出（見逃し1件）。既存の4つのソースブラインド手法と比較してreject/block F1で最高スコアの0.802を達成。さらに、50件の出典を意図的にすり替えた統制実験では全50件の誤帰属を検出した。出典：Hugging Face公式ブログ（https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source）
出典: Hugging Face Blog（公式ブログ）
So What?（なぜ重要か）
編集部の見立てでは、MCPが普及することでLLMエージェントは複数ツールを同時に呼び出す「マルチソース環境」が標準となり、「どこかの証拠で裏付けられている」という従来の検証基準が不十分になりつつある。ProvenanceGuardは「どの出典が、どのクレームを支持するか」をクレーム単位で可視化する枠組みを示しており、高信頼性が求められる医療・金融・法務領域での品質管理の設計思想を転換する可能性がある。
日本企業への示唆
日本企業でもMCPを活用した社内エージェントや顧客対応AIの導入が進む中、「回答が社内DBを引用していると言っているが、実際にはFAQから取得した情報だった」といった誤帰属リスクが現実の問題になり得る。医療・金融・法務などコンプライアンス要件が厳しい業種では、RAGの忠実度スコアだけでなく「クレームと出典の対応関係」を記録・監査できる仕組みの整備を検討すべき段階に入っている。ProvenanceGuardはオープンに論文を公開しており、自社エージェントのトレース記録体制と組み合わせた適用可能性を技術担当者が評価することが現実的な次の一手となろう。
背景・経緯
MCP（Model Context Protocol）はLLMエージェントが複数の外部ツール（検索・DB・患者記録など）を呼び出すための標準プロトコルとして注目されている。マルチソース環境では複数のツール出力を統合して一つの回答を生成するため、従来の単一コンテキスト前提の検証手法では事実の正確性とソースの正確性を同時に担保することが難しくなっている。ProvenanceGuardはそのギャップを埋めることを目的として開発されたと、論文ブログは説明している。
