30秒サマリー
- NVIDIAの公式技術ブログが、AgentXベンチマークを用いてVera RubinとBlackwell GB300の電力効率を解説
- Vera Rubin NVL72はGB300 NVL72比で最大30倍、GB300 NVL72はH200 NVL8比で最大80倍のメガワット当たりスループットを報告
- GB300 NVL72はH200 NVL8比で100万トークン当たりコストを最大10分の1に削減できると示す
何が起きたか
NVIDIAの技術ブログが2026年8月24日に公開され、SemiAnalysisが開発したオープンソースベンチマーク「AgentX」を用いて、Vera Rubin NVL72およびBlackwell GB300 NVL72のエージェント型AI推論における電力効率を詳しく解説した。AgentXはClaude Codeの実際のコーディングエージェントセッションを再生することで、長文コンテキストのプリフィル、KVキャッシュ再利用、ツール呼び出しの間隔、動的な同時実行数など、従来の固定シーケンス長ベンチマークでは捉えきれなかった現実の負荷パターンを測定する。
ベンチマーク結果として、Vera Rubin NVL72はAgentXのDeepSeek V4-Proワークロードにおいて、ユーザー1人当たり160トークン/秒の応答性を維持しながら、GB300 NVL72に対して最大30倍のメガワット当たりスループットを達成したと報告されている。なお、これらのVera Rubin NVL72の結果はNVIDIAが自ら測定したものであり、SemiAnalysisによるレビューは原文公開時点で待機中と明記されている。
GB300 NVL72については、DeepSeek V4 Pro 1.6TワークロードでH200 NVL8比最大15倍、大規模MoEモデルのKimi K3 2.8Tでは最大80倍のメガワット当たりスループットを示すとしている。コスト換算では100万トークン当たりのコストがH200 NVL8比で最大10分の1になるとも述べられている。これらの効率向上は、SGLang・TensorRT-LLM・vLLMなどのMoEサービングランタイム、DeepGEMMベースのカーネル、MXFP4/MXFP8の混合精度フォーマット、セッション対応サービングスタック「NVIDIA Dynamo」、72基のGPUを接続するNVLink高帯域ファブリックといったシステムレベルの最適化によるものだと説明されている。
原典ハイライト
AgentXベンチマークの核心は「メガワット当たりトークン数」という指標で、AIファクトリーの電力予算がどれだけ有用なエージェント処理に変換されるかを問う点にある。ブログはOpenRouterの「State of AI」レポートを引用し、実使用100兆トークンのデータでリクエスト当たりの平均プロンプトトークンが約4倍に増加し、単一のエージェント型リクエストは通常のチャットの15倍のトークンを消費するとしている。こうした背景から固定長ベンチマークはすでに現実を反映しないとして「メンテナンスモード」に降格されたと説明している。
出典: NVIDIA Technical Blog（公式ブログ）
So What?（なぜ重要か）
編集部の見立てでは、この解説記事が示す本質的な変化は「AIインフラの評価軸がトークン速度から電力当たりスループットへ移行しつつある」点にある。エージェント型AIが主要ワークロードになるにつれ、データセンターの電力コストがAIサービスの単位経済性を左右する度合いが高まる。世代交代による電力効率の大幅改善が続けば、旧世代GPU在庫の価値毀損が加速する可能性もある。
日本企業への示唆
日本企業・クラウド事業者がAIインフラ調達を検討する際、処理速度だけでなく「電力当たりコスト」を評価指標に加えることが重要になる。とくに電力制約の厳しい国内データセンターでは、世代の異なるGPUのメガワット当たりスループット差（最大80倍と示された）は設備投資の回収計算を大きく変えうる。一方、Vera Rubin NVL72の結果はNVIDIA自身の測定値で第三者検証待ちである点は留意が必要で、独立機関によるレビュー完了後に数値の妥当性を再確認することを推奨する。
背景・経緯
ブログはOpenRouterの「State of AI」レポートを引用し、実使用100兆トークンのデータでリクエスト当たりの平均プロンプトトークンが約4倍に増加したと指摘している。これを背景にSemiAnalysisがAgentXをInferenceXスイートに追加し、固定長シナリオを「メンテナンスモード」に移行させたという経緯が原文に記されている。Vera RubinはNVIDIAが次世代GPUアーキテクチャとして位置付けており、Rubin GPU・Vera CPU・Groq 3 LPXを組み合わせたフルプラットフォームとして展開される方向性が示されているが、製品の一般提供開始時期等については原文では言及がない。
