30秒サマリー
- AnthropicのFrontier Red Teamが、複数AIエージェントが連携する際の協調失敗と集団的リスクを実験で明らかにした
- エージェント群は同一状況で極めて類似した判断を下す「低分散」傾向があり、個別の誤判断が組織全体の障害に拡大しうる
- 脆弱性探索では協調型が独立並列型の約12倍の件数を検出した一方、ゲーム開発では協調品質にモデル世代間で顕著な差が出た
何が起きたか
Anthropicのセキュリティ研究チーム「Frontier Red Team」は2026年8月13日、複数AIエージェントが連携して動作するマルチエージェントシステムに関する研究結果を公式ブログで公開した。
ソフトウェア脆弱性の検出実験では、45エージェントが共有フォーラムで協調しながら並行稼働する「協調スウォーム」方式と、エージェントをコードの特定箇所に個別に向ける「独立並列」方式を比較した。Claude Mythos Previewを用いた場合、協調スウォームは2700万トークンの処理で266件の脆弱性を発見した一方、独立並列方式は650万トークンで21件にとどまった。ただし、協調スウォームの約半数はコア以外の領域での発見であり、コアディレクトリのみに絞ると両手法のトークン効率は概ね同等とされている。
ゲーム開発実験では、複数のエージェント群がそれぞれテキスト型オープンワールドゲームの開発に12時間取り組んだ。最終成果物は全般的に低品質だったが、モデルの世代によってプルリクエスト（PR）のマージ率とコード共有度に大きな差が生じた。古いモデル（Sonnet 4.6、Opus 4.6）はPRの衝突が多くマージ率が低く、Opus 4.8とMythos Previewは衝突を避けるためにファイルを個別管理しコード共有を減らすことでマージ率を上げた。最新のSonnet 5のみが高いコード共有と高いPRスループットを両立した。
研究チームはさらに、同一モデルに基づく複数エージェントは状況が同じであれば極めて似た行動を取る「低分散」傾向を確認した。実験事例として、30エージェント中18が同じgitブランチ名「mvp-game-loop」を作成した例や、指示なしの小説課題で複数エージェントが同一タイトルを付けた例、囚人のジレンマゲームで全エージェントが同時に裏切りを選んだ例などが挙げられている。
原典ハイライト
原文は「個別レベルでは無害な行動の癖が、グローバルな望ましくない結果へと増幅しうる」と指摘。また「エージェント同士のインタラクション量が、人間同士・人間とエージェント間のそれを上回る時代が、社会がその条件を理解する前に来るかもしれない」と警告している。
出典: Anthropic Research（公式ブログ）
So What?（なぜ重要か）
マルチエージェントシステムは脆弱性探索など並列化しやすいタスクで既に実用水準の成果を示す一方、相互依存が生じる複雑タスクでの協調品質はモデル世代に強く依存することが判明した。さらに重要なのは「低分散」リスクで、同一ベースモデルを使う多数のエージェントが組織内で同時に同じ誤判断を下せば、個別障害が企業全体の障害へ一気に波及しうる。現行の組織設計・監視体制は人間速度を前提としており、エージェントが主体となる環境に対応していない点をAnthropicは明示的に問題提起している。
日本企業への示唆
日本企業がAIエージェントを業務導入する際、まず同一モデル・同一プロンプトのエージェントを大量並列稼働させる構成のリスクを評価すべきだ。金融・調達・生産計画など意思決定が連鎖する領域では、エージェントの「低分散」特性が一斉誤判断を招く可能性があるため、モデルのバージョンや設定を意図的に分散させる「多様化設計」が有効な対策となりうる。また、PRマージ率やコード共有度のような協調品質指標をKPIに組み込み、モデルアップデートのたびに協調性を再検証する運用プロセスの整備が求められる。自律性を高める前に「人間が監視できる速度・粒度での介入ポイント」を設計段階で確保しておくことが、現時点では不可欠と編集部は見る。
背景・経緯
Anthropicは以前からマルチエージェント研究を進めており、オープンソースソフトウェアの脆弱性スキャンを行う「Project Glasswing」もその一環とされる。今回の研究はFrontier Red Teamが担当しており、エージェントが実世界の共有コードベース・市場・社会システムへ関与する場面が急増する中で、スケール時の挙動を理解しようとする取り組みの一部と位置づけられている。原文では、現行の社会制度は人間速度の監視を前提に設計されており、エージェントが速度・コスト面で人間を凌駕する領域では「エージェント専用」の仕組みへ移行する可能性を示唆している。
