公開：2026年9月25日, 最終更新：2026年9月25日
30秒サマリー
- arXivに公開された技術報告書が、Qwen3ベースのマルチモーダルLLM「Pistisファミリー」の設計と訓練手法を詳述した
- 蒸留と強化学習を単一ループで交互に行う新手法「IDRL」により、長期的エージェント行動の最適化安定性が向上したとしている
- モデルパラメータを更新せず推論ハーネスを自動改善するシステム手法「PAH」も導入し、追加コストなしで性能改善を確認
何が起きたか
2026年9月23日、arXiv（cs.AI）に「Pistis Technical Report」が投稿された。著者はHeyun Chenほか19名の研究者チームで、Pistisモデルファミリーの設計・訓練手法を報告している。
Pistisファミリーは、Qwen3.6をベースとする27Bパラメータモデルと、Qwen3.5をベースとする9Bパラメータモデルで構成されるマルチモーダル大規模言語モデルである。訓練フレームワークはまず大規模なマルチモーダル教師ありファインチューニング（SFT）で基盤を構築し、その上に「IDRL（Interleaved Distillation and Reinforcement Learning）」と呼ぶ新しいポスト訓練手法を適用する。IDRLはオンポリシー蒸留と強化学習を単一の訓練ループ内で交互に実行するもので、静的な損失合算や逐次適用と比べ、知識転移の効率化・最適化安定性の向上・長期エージェント軌跡への信用割り当て精度の改善が得られたと論文は主張している。
各モデルスケールにおいて、深いマルチモーダル推論に特化した「Pistis-Thinking」と、エージェント軌跡データを追加学習した長期計画・反復推論・ツール使用に対応する「Pistis-Agentic」の2バリアントが用意されている。Pistis-Agenticはマルチモーダル検索で特に高い性能を示すとされ、両バリアントともベースモデルを上回ったと報告されている。さらに、モデルパラメータを変更せずに推論ハーネスを反復的に自動最適化するシステムレベル手法「PAH（Pistis-Auto-Harnessing）」を導入し、インタラクション予算を増やすことなく性能改善が得られたことを実験で確認したとしている。
原典ハイライト
論文は「IDRLは蒸留と強化学習を静的に組み合わせるのではなく交互に実行することで、長期エージェント軌跡における信用割り当てをより正確にし、能力間のトレードオフを緩和する」と説明している。またPAHについては「モデルパラメータの更新やインタラクション予算の増加なしにエージェント性能を改善できる」と記述している。
出典: arXiv cs.AI（論文）
So What?（なぜ重要か）
本報告書は、マルチモーダルLLMの訓練において蒸留と強化学習を動的に組み合わせるIDRLが有効である可能性を示した点で注目される。特にPistis-AgenticがマルチモーダルRagent系タスクで強みを発揮するとされており、検索・情報収集を伴う複合エージェント用途へのマルチモーダルLLM適用を検討する上で参考となる研究成果とみられる。また、PAHのようにモデル本体を再学習せず推論ハーネスの最適化で性能改善を図るアプローチは、運用コストを抑えながら継続的改善を実現する方向性として実務上の示唆がある。
日本企業への示唆
27Bと9Bという2スケール展開の構成は、大規模クラウドでの高精度用途と、エッジ・オンプレミスでのコスト効率重視用途を使い分ける戦略に対応できる設計であり、日本企業がマルチモーダルエージェントを自社インフラに組み込む際の選択肢評価に直結する。特にマルチモーダル検索や長期的なタスク計画が求められる業務（調達・製造品質検査・顧客対応等）への応用可能性を検討する際、IDRLやPAHのような訓練・推論最適化手法がオープンな研究として公開されている点は、自社モデル開発・ファインチューニングを進めるAI内製化チームにとって参照価値が高い。ただし本報告書はarXivの段階であり、査読・再現性検証は引き続き必要である。
背景・経緯
PistisファミリーはAlibabaが公開しているQwen3シリーズをベースモデルとして採用している。マルチモーダルLLMのポスト訓練において蒸留と強化学習を組み合わせるアプローチは近年活発に研究されており、本論文はその中でも両手法を動的に交互適用するIDRLを提案した点が新規性の核心とされる。開発チームの所属機関については原文に明記がない。
