AI News JAPAN

世界のAIニュースを最速で把握できるメディア

Advertisement

MoEモデルのハルシネーションを抑制する新デコード手法、ACLで採択

30秒サマリー

  • MoE型LLMの内部構造を活用し、幻覚(ハルシネーション)を抑制する新手法「EAACD」が発表された
  • モデル改修不要でQAタスク4データセット全てで既存手法を上回る性能を達成
  • MoEアーキテクチャ特有のエキスパート活性化パターンの差異を初めて体系的に分析した点が新規性

何が起きたか

中国の研究チーム(Xinyue Fangら8名)は2026年5月、Mixture-of-Experts(MoE)型LLMのハルシネーション抑制に特化したデコード手法「EAACD(Expert-Aware Adaptive Contrast Decoding)」を提案するarXiv論文を公開した。本論文はACL(計算言語学会年次大会)に採択されている。

研究チームはまず、GPTなどの標準トランスフォーマーで有効とされてきた「対照デコーディング(Contrastive Decoding)」がMoEモデルに適用可能かを実証的に検証した。その結果、共有エキスパートを持つMoEでは従来手法が前提とする層間差異が確認できない一方、MoEの上位層においては事実的な出力と非事実的な出力でエキスパートの活性化パターンが異なることを発見した。

この知見を基に提案されたEAACDは、上位層のエキスパートを「高信頼グループ」と「複数の低信頼グループ」に分類し、両者の予測を対比させることでモデルの出力を補正する。さらに低信頼グループにはアテンション操作とマスキングによってハルシネーションを意図的に増幅させ、より強い負例参照として活用する仕組みを持つ。4つのQAデータセットにおいて全ての比較手法を上回ったとしている。

原典ハイライト

論文は「MoEの共有エキスパートを含む構造では既存の対照デコーディングが機能しないが、上位層のエキスパート活性化パターンに事実・非事実間の差異が存在する」という実証結果を核心的な発見として報告している。

出典: arXiv cs.CL(論文)

So What?(なぜ重要か)

MoEアーキテクチャはMistral、DeepSeek、Geminiなど主要な商用LLMに広く採用されており、この手法が示す「モデル自体を再学習せずにハルシネーションを抑制できる可能性」は実用上の意義が大きい。企業がMoE型モデルを業務利用する際の信頼性ボトルネックに対し、デコード段階での介入という新たなアプローチが加わった形だ。

日本企業への示唆

社内文書QAや顧客対応チャットボットなどでMoE型LLMを採用している、あるいは検討中の日本企業にとって、EAACDのようなデコード時介入手法はモデルの再学習コストをかけずに出力精度を改善できる選択肢となりうる。ただし現時点では研究論文段階であり、本番環境への適用可否はアーキテクチャの詳細や自社ユースケースとの適合性を慎重に検証する必要がある。ベンダー選定の際はMoEへの対応状況とハルシネーション対策の有無を評価軸に加えることを編集部は推奨する。

背景・経緯

ハルシネーション(LLMが事実と異なる情報を自信を持って出力する現象)は企業AI活用の最大リスクの一つ。従来の対策はプロンプトエンジニアリングやファインチューニングが主流だったが、前者は効果が限定的で後者はコストと汎化性に課題があった。対照デコーディングはモデル内部の層間差異を利用する手法として注目されてきたが、MoEへの適用研究は原文の時点では行われていなかったとされている。