公開：2026年8月29日, 最終更新：2026年9月1日
ExFoldは、Mixture-of-Experts（MoE）モデルの推論を追加トレーニング不要で高速化する「専門家折りたたみ（Expert Folding）」フレームワークである。小紅書（Xiaohongshu Inc.）、北京大学、上海交通大学、電子科技大学の研究者らが共同開発し、2026年8月にarXiv（論文ID: arXiv:2608.24938）で公開した。
概要
ExFoldは、MoEモデルの推論プロセスにおける「プリフィル（prefill）フェーズ」と「デコード（decode）フェーズ」という2つの異なるボトルネックを、統一的なメカニズムで同時に解決することを目的としたフレームワークである。論文タイトルは “ExFold: Unified Expert Folding for Training-Free MoE Prefill-Decode Acceleration”。既存の高速化手法の多くが一方のフェーズのみを最適化し、除外した専門家の貢献を破棄または暗黙的に近似するにとどまっていたのに対し、ExFoldは両フェーズを「予算制限付きの出力近似問題」として統一的に定式化する点が特徴である。
仕組み・ポイント
MoEモデルの推論では、プリフィルフェーズではトークンごとの専門家計算（FLOPs）がボトルネックとなり、デコードフェーズではバッチ全体でアクティブ化される専門家セットのロードに伴うメモリ帯域幅がボトルネックとなる。ExFoldはこの非対称な課題を、以下の3つのコア技術で対処する。
キャリブレーション：多くの専門家出力が「方向的に一致しているが大きさが異なる」という観察に基づき、ラベルなしデータを用いて専門家ペア間の「方向性を持つスカラー投影器（directed scalar projectors）」を事前に1回だけ算出する。追加トレーニングは不要である。
フェーズに応じた選択（Phase-Aware Selection）：プリフィル時はトークンごとにTop-Kの専門家を選択し、デコード時はバッチごとに共有の専門家プールを選択する。フェーズごとの異なるボトルネックの性質に合わせた選択戦略を採用している。
折りたたみ演算子（Folding Operator）：予算の制約で除外された専門家の出力を単純に破棄するのではなく、キャリブレーション済みのスカラー投影器を用いて、保持された専門家のルーターメタデータに「折りたたむ（投影する）」ことでその貢献を回収する。これにより、精度の低下を抑えながらの高速化を実現している。
実装面では、推論エンジン「vLLM」のプラグアンドプレイ・プラグインとして提供されており、軽量な専門家折りたたみCUDAカーネルを備えている。
報告された性能としては、最大で1.41倍のTTFT（Time-to-First-Token）および2.45倍のTPOT（Time-Per-Output-Token）のスピードアップを達成しつつ、元モデルの平均品質の約99%を維持するとされている。
なぜ今注目されているのか
MoEアーキテクチャは、大規模言語モデルの計算効率を高める手法として広く採用が進んでいる。しかし、モデル規模の拡大に伴い推論コストも増大しており、サービス提供における実用的な高速化手法への需要が高まっている。ExFoldが注目される理由の一つは、追加トレーニングを必要とせずに既存モデルへ適用できる点であり、導入コストを抑えながらプリフィルとデコードの両フェーズを統一的に改善できる設計にある。また、vLLMへのプラグイン形式での実装は、実際の推論インフラへの組み込みやすさという観点からも評価に値する。
日本企業への示唆
MoEモデルを活用した生成AIサービスを自社インフラで運用している、あるいは検討している企業にとって、ExFoldのような追加トレーニング不要の高速化手法は、GPU・メモリコストを抑えながらレイテンシを改善できる現実的な選択肢となりうる。特に、TTFT（応答開始までの時間）はユーザー体験に直結するため、2.45倍のTPOT改善と合わせた効果はサービス品質の向上に寄与する可能性がある。一方で、品質維持率が「約99%」と報告されているものの、ユースケースによっては残り1%程度の品質低下が許容できるかを事前に検証する必要がある。vLLMをベースとした推論環境を採用しているチームであれば、比較的低い移行コストで評価を開始できる点は、実務上の判断材料として押さえておきたい。
※ 本ページはAI News JAPAN編集部が最新の動向を踏まえて解説したものです。内容は随時見直します。
