30秒サマリー
- LLMが自ら生成した文書をRAGで参照すると、回答が急速に劣化・崩壊する現象を大規模実験で確認
- 1,528シミュレーションの79.6%が崩壊に至り、自己生成文書が1件だけでも崩壊が誘発される
- Web上のAI生成コンテンツ汚染と企業内ナレッジベースの品質劣化リスクへの警鐘となる研究
何が起きたか
Gregory DruckとEthan Smithの両氏は2026年8月22日、arXivに論文「RAG Collapse」を投稿した。論文は、RAG（検索拡張生成）を用いるLLMシステムが、自身の過去の出力を参照文書として取得する場合に、回答の多様性が失われ最終的に崩壊する現象を「RAGコラプス」と命名し、大規模実験によって実証している。
実験では3種類のシミュレーション手法、3つのモデルファミリー、1,019件の情報探索プロンプトを組み合わせ、計1,528回のシミュレーションと100万件超のLLM APIコールを実施した。その結果、1,216件（79.6%）のシミュレーションが崩壊に終わった。
特に注目すべき知見として、自己生成文書が検索結果に1件含まれるだけでも崩壊が誘発される点が挙げられている。これはLLMが自身のコンテンツを過度に参照・引用する「自己バイアス」によるものであり、参照文書の品質を統制した場合でもこのバイアスは消えなかったと論文は報告している。著者らはこの現象を、LLMを自己の出力で繰り返し学習させると応答が劣化するとした先行研究「モデルコラプス」（Shumailov et al., 2024）のRAG版に相当するものと位置付けている。
原典ハイライト
79.6%（1,528件中1,216件）のシミュレーションが崩壊に至り、自己生成文書1件の混入だけで崩壊が始まる。LLMの「自己バイアス」は参照文書の品質を制御しても解消されないと論文は述べている。
出典: arXiv cs.CL（論文）
So What?（なぜ重要か）
編集部の見方では、この研究は二重の実務リスクを示唆する。第一に、企業の社内ナレッジベースにAI生成コンテンツが蓄積されるほど、そのベースを参照するRAGシステムの回答品質が構造的に劣化していく可能性がある。第二に、Web検索を利用するRAGシステムは、オンライン上のAI生成コンテンツの増加（論文はParedes et al., 2026を引用）によって同様の問題に晒されうる。品質管理の仕組みなしに運用を続けた場合、社員が気づかないまま回答の均質化・劣化が進む恐れがある。
日本企業への示唆
社内文書をRAGのデータソースとして活用している日本企業は、そのベースにAI生成文書がどの程度混入しているかを今一度点検する必要がある。特に、社内報告書・メール・議事録の作成にLLMを日常的に使う組織では、ナレッジベースのAI汚染が静かに進行しているリスクがある。対策として、RAGに投入する文書のソース管理（人間著作か否かのメタデータ付与）、検索結果の多様性モニタリング、定期的な回答品質評価などの運用ガバナンスの整備を検討したい。また、Web検索連携型のAIエージェントを業務導入する際は、参照先コンテンツのAI生成比率が将来的に問題になりうる点をベンダーとの契約・SLA上でも確認しておくことが望ましい。
背景・経緯
LLMを自己の出力で繰り返し学習させると回答が非多様化・劣化する「モデルコラプス」はShumailov et al.（2024）によって示されている。本論文はその概念をRAGシステムに拡張したものと位置付けられる。また論文はParedes et al.（2026）を引用し、AI生成コンテンツがWeb上で既に相当量を占めていることを前提としている。
