30秒サマリー
- LLMエージェントの業務手順違反を防ぐ「PolicyGuide」の論文がarXivに公開された
- 組織ポリシーをワークフローグラフに変換し、会話の要所でリアルタイム検証を行う仕組み
- 航空・小売・通信ドメインの実験でPass@4スコアが0.42から0.62へ大幅改善
何が起きたか
2026年8月20日、Seongjae Kangら3名の研究者がarXivに論文「PolicyGuide」を投稿した。カスタマーサービス向けLLMエージェントが組織ポリシーに準拠して動作することを目的とした研究であり、「単一アクションの安全確認」から「業務ワークフロー全体の誘導」へという発想の転換を提案している。
従来のランタイム型安全機構は、エージェントが実行しようとする個々のアクションが危険かどうかをチェックするに留まり、本人確認や確認ステップの省略といった手続き的な違反を防ぐことは難しかった。PolicyGuideは各ドメインのポリシーをワークフローグラフとして事前コンパイルし、ユーザーターンの境界ごとに「プロアクティブな検証器（verifier）」を呼び出す。検証器はグラフの現在状態を参照して未処理の要求を照合し、ポリシー準拠の経路に沿った具体的な是正手順をエージェントへ返す設計となっている。
実験にはGPT-5.4をエージェントおよび検証器として用い、τ²-benchの航空・小売・通信の3ドメインで評価した。平均Pass@4スコアはベースラインの0.42からPolicyGuide適用後に0.62へ向上し、特にワークフロー構造が複雑な通信ドメインでは0.19から0.61へと最大の改善幅を示した。同一のワークフロー定義はClaude Sonnet 4.6およびGemini 2.5 Proエージェントへもそのまま転用可能であることが確認されている。また、悪意あるユーザーによる攻撃成功率が評価した手法中で最低となり、手続き的コンプライアンスの観点でも最も高い評価を得たと論文は報告している。
原典ハイライト
論文は「ポリシーをワークフローグラフにコンパイルし、ユーザーターン境界で検証器を呼び出す」という設計の核心を強調。通信ドメインでのPass@4スコアが0.19→0.61と3倍超に改善した点が最大の実証成果であり、複数の主要LLMへのワークフロー転用可能性も示されている。
出典: arXiv cs.AI（論文）
So What?（なぜ重要か）
LLMエージェントを業務に投入する際の最大リスクは、個別アクションの暴走よりも「手続きの抜け漏れ」にある。PolicyGuideはこの「手順コンプライアンス」を構造的に担保しようとする手法であり、ポリシーをグラフとして分離・管理することでLLMモデルを差し替えても統制を維持できる可能性を示している点が重要だ。研究段階の成果ではあるが、AIエージェントの社内展開・監査対応の議論に直結する問いを提起している。
日本企業への示唆
コールセンター自動化・社内業務エージェントの導入を検討する日本企業にとって、「LLMがポリシーを正しく守れるか」は法的リスクや顧客信頼に直結する問題である。PolicyGuideの「ポリシー＝ワークフローグラフ」という設計思想は、社内規程や業務マニュアルを機械可読な形式で管理するというアーキテクチャ上の判断を迫るものだ。現時点では論文段階であり実装の成熟度は不明だが、AIエージェント導入のRFP策定や内部統制の設計において、単一アクション検査だけでなくワークフロー全体の手順準拠性を要件に含めるべきかどうかを検討する契機となり得る。
背景・経緯
カスタマーサービス向けLLMエージェントの業務投入は世界的に加速しているが、エージェントが組織ポリシーや業務手順を正確に遵守するための技術的手段は未成熟である。既存アプローチは危険なアクションを事後的に遮断するランタイム安全機構と、ワークフロー完遂を目的としたオーケストレーションシステムに大別されるが、両者の中間にあたる「手順コンプライアンスの能動的な誘導」は手薄な領域だと論文は位置付けている。
