公開：2026年10月16日, 最終更新：2026年10月16日
30秒サマリー
- 拡散型言語モデル（DLM）の推論スループットを最大6.9倍改善する学習フレームワーク「ORL」の論文が公開された
- Qwen3-4Bベースの4BモデルでEAGLE3やDFlash投機的デコードを上回る速度・品質を達成したと報告
- コンシューマGPU（RTX 5090）でも毎秒2,788トークン、B200×8では7,708トークンの処理速度を確認
何が起きたか
2026年10月14日、スタンフォード大学のJames Zou氏らを含む12名の研究者グループがarXiv（cs.LG）に論文「On-Policy Residual Learning for Diffusion Language Models」を投稿した。拡散型言語モデル（DLM）の推論効率を改善することを目的とした研究で、「ORL（On-Policy Residual Learning）」と名付けたフレームワークを提案している。
ORLは、デノイジング（ノイズ除去）ステップをまたいで予測分布を引き継ぐ「残差コンテキスト」という仕組みに着目し、モデル自身が生成した軌跡からオンポリシーで学習する点が特徴だ。アルゴリズムとして「エントロピー収縮目標（entropy-contraction objective）」を導入し、モデルが自身の予測を再訪するたびに予測を鋭化させる。システム面では、非同期な残差キャプチャ・転送、専用のブロック拡散アテンション、計算負荷均等化トレーニングなどを組み合わせた実装基盤「dlmrt」エンジンも開発している。
実験結果として、Qwen3-4Bから変換した4BのDLMでは、1フォワードあたりのトークン数（TPF）が最大6.2倍、エンドツーエンドのスループットが最大約6.9倍改善されたと論文は報告する。H100 1枚でのシングルリクエスト処理では、厳格・緩和の両検証条件下でEAGLE3およびDFlash投機的デコードを用いた自己回帰モデルより強いパレートフロンティアを達成し、精度を揃えた条件でDFlashより1.74倍高速だったとしている。また、既存DLMへの転用実験として、LLaDA-2.1-miniではH100×36時間・420万トークンという従来レシピの約10分の1のデータ量でTPF最大1.5倍・スループット最大3倍を達成。DiffusionGemmaではTPFが1.1〜1.2倍向上した。NVFP4量子化を組み合わせた場合、B200 1枚で毎秒最大5,046トークン、B200×8枚で7,708トークン、RTX 5090で2,788トークンのデコード速度を記録したと述べている。
原典ハイライト
論文アブストラクトは「ORLはQwen3-4BベースのDLMでエンドツーエンドスループットを約6.9倍改善し、H100シングルリクエスト処理でEAGLE3・DFlash投機的デコードを用いた自己回帰モデルよりも優れた速度・品質パレートフロンティアを達成した」と主張。LLaDA-2.1-miniでは従来比10分の1以下のデータ量で同等以上の改善を実現した点も強調している。
出典: arXiv cs.LG（論文）
So What?（なぜ重要か）
編集部の見立てでは、この研究が重要な理由は二点ある。第一に、自己回帰型（GPT系）モデルが主流の中で、拡散型言語モデルが推論速度・コスト面で競合しうる水準に近づきつつあることを示唆する点だ。第二に、既存のDLM（LLaDA、DiffusionGemma）にも少量のデータで適用可能であることを示しており、新たにモデルをゼロから学習するコストを要しない可能性がある。ただし本論文はarXivのプレプリントであり、査読を経た成果ではないため、数値の独立検証が必要な段階にある。
日本企業への示唆
生成AIの推論コストと応答速度は、日本企業がAPI利用・自社デプロイのどちらを選ぶかを左右するコア指標だ。拡散型LMが自己回帰型に匹敵する速度・品質を低コストで実現できるとすれば、GPU調達計画やクラウドAIサービスの選定基準に変化が生じる可能性がある。特に、コンシューマGPU（RTX 5090）でも秒間約2,800トークンを達成したとする点は、エッジ・オンプレミス展開を検討する製造・金融・医療分野の担当者が注目すべきデータ点といえる。一方、査読前の論文であるため、社内の技術評価チームによる再現実験や条件確認を経たうえで意思決定に活用することを推奨する。
背景・経緯
拡散型言語モデル（DLM）は、画像生成で実績を持つ拡散モデルの考え方をテキスト生成に応用したアプローチで、GPT系の自己回帰型モデルとは異なる生成方式をとる。推論速度の低さが課題とされてきたが、LLaDAやDiffusionGemmaなど複数のDLMが研究・公開されており、効率化手法の研究が進んでいる。本論文はその文脈に位置づけられる。投機的デコード（EAGLE3、DFlash）は自己回帰型モデルの高速化手法として知られており、論文はこれを比較対象としている。
