30秒サマリー
- 同一AIモデルを同一ツールで分析しても、設定の違いで導出される「説明」が73%超の確率で矛盾する
- メカニスティック解釈可能性の主流手法「回路発見」が、EU AI法の技術文書要件を満たせないと研究者が主張
- 高リスクAIの適合性審査を念頭に置いた「提出可能性基準」を論文内で独自に定式化し、既存手法は全水準で不合格
何が起きたか
ドイツ・トリア応用科学大学のAjay Pravin Mahale氏は2026年8月13日、arXivに査読前論文を投稿し、AIの意思決定過程を解析する「メカニスティック解釈可能性（mechanistic interpretability）」のうち、最も発展した手法とされる「回路発見（circuit discovery）」が、EU AI法（EU AI Act）の技術文書要件に耐えうる証拠を提供できないと主張した。
論文は事前登録済みの実験設計を採用し、GPT-2 smallと「間接目的語識別（indirect object identification）」タスクを対象に、7つの分析軸を組み合わせた計15,840通りの設定を検証した。このうち7,561通りで何らかの主張（claim）が導出されたが、設定ペア間で導出される命題が矛盾する（「フリップ」する）割合は73.2%（95%信頼区間：0.725〜0.738）に達した。最も多数派の主張でも全体の41.1%しか支持されなかった。
最も影響の大きい分析上の選択肢である「評価指標」を統一した場合でもフリップ率は59.4%にとどまり、回路サイズを主張から除外・固定した場合でも27.1%（95%信頼区間：0.255〜0.286）と、事前に設定した閾値を上回った。また、異なる設定で発見された回路は構造的にほぼ重複せず（ペアのJaccard重複率の中央値4%）、機能的相関もほぼゼロ（Cohen’s kappa 0.015）であり、「同じ仕組みを別の言葉で表現している」のではなく、根本的に異なる回路が発見されていることが示された。
論文はEU AI法 Annex IVが求める技術文書の記載事項に対応した「提出可能性基準（filability criterion）」を独立したプロトコルとして提示し、既存の回路発見手法はいかなる許容水準においても同基準を満たさないと結論付けた。なお、本研究は1モデル・1タスクに限定されており、大規模モデルへの汎化可能性は未検証であると著者自身が明記している。
原典ハイライト
15,840通りの事前登録済み設定でGPT-2 smallを分析した結果、同一システム・同一ツールを使う2人の有能なアナリストが異なる合理的設定を選んだだけで、導出される説明命題が73.2%の確率で矛盾する。回路の構造的重複率（Jaccard）の中央値はわずか4%であり、これは単なる表現の違いではなく、まったく異なる「発見」がなされていることを意味する。
出典: arXiv cs.AI（論文）
So What?（なぜ重要か）
EU AI法は高リスクAIの提供者に対し、意思決定過程を説明する技術文書の提出を義務付けている。同法の事実上の「証拠源」として期待されてきたメカニスティック解釈可能性の中核手法が、分析者の設定選択次第で真逆の結論を生む不安定性を持つとすれば、適合性審査（conformity assessment）の根拠として機能しない可能性がある。規制当局・企業双方にとって、「説明を出せる」ことと「法的に信頼できる説明を出せる」ことの間に大きなギャップが存在することを示唆する研究といえる。
日本企業への示唆
EU AI法の適用対象となる高リスクAIシステムを欧州市場で展開する、または展開を検討する日本企業にとって、本論文は技術的コンプライアンスの難易度を改めて問い直す材料となる。現時点で広く利用されている解釈可能性ツールが生成する説明は、設定の違いで結論が大きく変わりうるため、「説明ドキュメントを作成した」だけでは適合性審査を通過できないリスクがある。法務・技術・コンプライアンス部門が連携し、①使用する分析手法と設定を事前に固定・文書化するプロセスの整備、②複数の設定で結果の一貫性を確認する検証ステップの導入、③規制当局が求める「提出可能性基準」に対応できる内部プロトコルの策定、といった準備を早期に進めることが現実的な対応策となりうる。ただし本論文はプレプリント（査読前）であり、知見の確定には今後の査読・追試が必要な点に留意すること。
背景・経緯
EU AI法（2024年発効）は、採用・医療・信用審査など特定用途のAIを「高リスク」に分類し、提供者にAnnex IVで定められた技術文書の整備を義務付けている。その文書には意思決定メカニズムの説明が含まれるため、AIの内部動作を解析する「メカニスティック解釈可能性」研究への期待が高まっていた。中でも「回路発見」は、モデル内の特定機能を担う注意ヘッドや中間層のネットワーク（回路）を同定する手法として、研究コミュニティで最も精緻化が進んできた。本論文はこの前提に正面から疑問を呈したものとみられる。
