30秒サマリー
- 120Bパラメータ（MoEアーキテクチャ）で1トークンあたり12Bを有効化し、1GPU上で同カテゴリ比最大5倍のスループットを実現
- Scale AI・Ramp・AI21が特化用途に追加学習し、推論コスト40分の1・レイテンシ10分の1・精度41%向上などの成果を報告
- オープンウェイトで公開済み。NeMoによるSFT・LoRA・強化学習カスタマイズやHugging Face上のデータセット提供も行われている
何が起きたか
NVIDIAは2026年10月15日、公式テクニカルブログにて「Nemotron 3.5 Super VL」の設計思想・学習手法・推論最適化技術を詳しく解説した記事を公開した。同モデルは120Bパラメータのミクスチャー・オブ・エキスパーツ（MoE）アーキテクチャを採用し、1トークンあたり12Bパラメータを有効化する。テキスト・画像・文書・動画の理解とツール利用・推論を単一モデルに統合しており、単一GPUでの動作時、同サイズカテゴリの他オープンモデルと比較して最大5倍のスループットをエージェント向けタスクで達成するとしている。
カスタマイズ事例として、AIデータ・技術企業のScale AIはメディア企業Skydance Corporationの自動ベンダー与信処理向けに追加学習を実施し、推論コストを40分の1・レイテンシを5分の1に削減する見込みと報告。金融オペレーションプラットフォームのRampはレシート画像から構造化JSONへの変換用途でスループット最大50%向上・レイテンシ10分の1を見込む。セキュリティ・AI企業のAI21とAliceは脅威インテリジェンス・脆弱性分析用途で精度を41%改善したと報告している。
評価指標面では、エージェントベンチマーク「Hermes Bench」でNemotron 3 Ultraの56.33%に対し63.44%、「LangChain Evals」では84.3%に対し87.05%と上回っている。推論効率化技術としては、投機的デコーディング手法「LiLiCorr」（NVIDIA DGX Spark上で通常デコーディング比最大2.3倍の高速化）、NVFP4量子化、マルチトークン予測、コンテキスト再利用が採用されている。また、IIT MadrasおよびAI4Bharat研究所と共同開発した約2.8兆トークン・22インド言語のデータセットも合わせて公開される。
原典ハイライト
単一GPUでエージェントタスクのスループットが同カテゴリ比最大5倍、LiLiCorr投機的デコーディングによりトークン生成速度が最大2.3倍。複数の企業が追加学習により推論コスト40分の1・レイテンシ10分の1・精度41%向上を報告しており、オープンウェイトと学習用データセットの公開で再現性も担保されている点が核心。
出典: NVIDIA Technical Blog（公式ブログ）
So What?（なぜ重要か）
編集部の見方として、同モデルの重要性は「マルチモーダル×エージェント」を単一モデルで完結させるアーキテクチャにある。複数モデルを組み合わせた従来のパイプラインは、モデル間のコンテキスト受け渡しによる遅延・コスト増・精度劣化という三重の課題を抱えていた。Nemotron 3.5 Super VLはこれを一本化しつつ、MoEにより推論コストを抑制する設計であり、企業が商用エージェントを実運用規模で展開する際のコスト構造を根本的に変えうる。また、オープンウェイト公開とNeMoによる追加学習支援の組み合わせは、特定ドメインへの適応障壁を下げ、業界特化エージェントの量産を加速させるとみられる。
日本企業への示唆
日本企業が検討すべき実務上の示唆として、まず「エージェントAIの運用コスト試算の見直し」が急務となる。Scale AIの事例（推論コスト40分の1）が示すように、追加学習済みの特化モデルはフロンティアモデルのAPI利用と比較してコスト構造が大きく異なる。自社の業務プロセス（受発注・ドキュメント処理・セキュリティ監視など）に対し、オープンモデルの追加学習コスト＋自社インフラ運用コストと、汎用APIコストの損益分岐点を試算することが現実的な次のステップとなる。次に、インド語対応（22言語、2.8兆トークン）のデータセット公開は多言語エージェント展開を検討する企業にとっても参考になる取り組みであり、日本語対応強化への応用可能性についても技術チームで検討する価値がある。オープンウェイトのため、社内データをクラウドに送出せずオンプレミス・DGX Spark上で運用できる点は、金融・医療・法務など情報管理が厳格な業種において重要な選択肢となりうる。
背景・経緯
NVIDIAはNemotronシリーズとして、用途別に複数のモデルを展開している。原文によれば、高ボリュームテキスト処理向けの「Nemotron 3.5 Lightning」、複雑なプランニング・オーケストレーション向けの「Nemotron 3 Ultra」、そして本モデル「Nemotron 3.5 Super VL」（特化型マルチステップ推論・マルチモーダル処理）という役割分担が設計されている。Nemotron 3.5 Super VLはNemotron 3 Ultraからの蒸留を基盤とし、さらに複数の専門教師モデルを用いたMOPD（マルチ教師オンポリシー蒸留）によって後処理学習されている。Perplexity提供の高品質データセットや、Prime Intellectのトレーニング環境も活用されたと原文には記載がある。
