30秒サマリー
- LLMエージェントの推論コストを維持しながら小型モデルの性能を継続的に引き上げるフレームワーク「MERA」をarXivが公開
- 4サイクルの適応訓練でQwen2.5-Coder-1.5Bのコーディング正答率が28.7%→49.7%に向上、コストは常時大型モデル使用比60.8%に抑制
- 「ルーティングで振り分けるだけ」の従来手法と異なり、小型モデル自体を継続改善する点が技術的な差別化要因
何が起きたか
2026年8月11日、Yuhang Yaoら11名の研究者グループがarXiv(cs.LG)に論文「MERA: Model Evolution and Routing with Skill Adaptation for Agentic Systems at Scale」を投稿した。MERAは、LLMエージェントが単一タスク内で行う多様なモデル呼び出し——高度な推論が必要なものから、フォーマット整形やツール引数の構築といった定型処理まで——を対象に、コストと性能を両立させるフレームワークである。
従来のルーティング手法は、簡易な呼び出しを安価な小型モデルに、難易度の高い呼び出しを大型モデルに振り分けることで推論コストを削減してきた。しかしこの手法では小型モデルの能力そのものは向上しないため、達成できるコスト削減には上限があると論文は指摘する。MERAはこの課題に対し、小型モデル自体をサイクルごとに改善する仕組みを採用した。具体的には、小型モデルが失敗した呼び出しを大型モデルが再現(リプレイ)して検証済みのデモンストレーションを生成し、再現性の高い手順を「SkillBook」として蓄積、LoRAアダプターによる教師あり学習とオプションのGRPO(強化学習手法の一種)でモデルを微調整する。
実験結果として、4サイクルの適応訓練によりQwen2.5-Coder-1.5Bのコーディングベンチマーク(HumanEval+MBPP)正答率が28.7%から49.7%へ改善した。また検証器付きフォールバックを用いた展開環境では、正答率88.3%を維持しつつ、常時大型モデル(論文内では「Luna」と表記)を使用した場合のコストの60.8%で運用できたと報告されている。エージェントタスクのベンチマーク「TAU-2」では、微調整済みQwen3.5-2Bが14/35から18/35に改善し、適応なしの4Bモデルと同等の性能を示した。
原典ハイライト
論文の核心は「ルーティングは小型モデルの能力の上限を超えられない」という既存手法の根本的限界を指摘した点にある。MERAはモデル呼び出し単位での反復適応・スキル蓄積・検証付きデプロイという三位一体の仕組みで、小型モデルの能力天井を継続的に引き上げることを実証した。論文はCAIS RL-Evalワークショップ向けの予備版と位置づけられており、査読済み論文ではない点に留意が必要。
出典: arXiv cs.LG(論文)
So What?(なぜ重要か)
LLMエージェントの運用では「大型モデルを使えば精度は出るがコストが高い、小型モデルはコストが安いが精度が不十分」というトレードオフが実務上の壁になっている。MERAはこのトレードオフを「一度決めたら固定」ではなく「継続的に縮小できるもの」として捉え直す枠組みを提供する。小型モデルがタスク経験を通じて自律的に成長し、大型モデルへの依存度を漸減させられるとすれば、LLMエージェントの総所有コスト(TCO)の計算式が大きく変わる可能性がある。
日本企業への示唆
日本企業がLLMエージェントを業務に導入する際、初期段階で大型モデルに頼らざるを得ない場面は多い。MERAの手法が実用化されれば、自社業務データを活用した反復適応により、時間経過とともに小型・低コストモデルへの置き換えを段階的に進めるロードマップが描けるようになる。特に反復性の高い社内業務(フォーマット変換、定型文書生成、ツール連携)を含むエージェント処理では、SkillBook的な手順蓄積の考え方が運用設計に直接応用できる。現時点では予備版論文であるため、本格導入の前に追加検証や再現実験の動向を注視することが望ましい。
背景・経緯
LLMエージェントの推論コスト削減を目的としたルーティング研究は以前から存在し、タスクの難易度に応じてモデルを使い分ける手法が提案されてきた。MERAはこの流れの延長線上にあるが、ルーティングを補助的な展開機能と位置づけ、小型モデルの継続的な能力向上をシステムの中心に据える点で方向性を転換している。論文はCAIS RL-Evalの予備版として提出されており、現時点では査読を経た確定版ではない。


