30秒サマリー
- NVIDIAの公式ブログが、Vera Rubin NVL72のメガワット当たりスループットがGB300 NVL72比で最大30倍に達するとする計測結果を公開した
- AIエージェントのトークン消費量は通常チャットの15倍（OpenRouterデータ）に上り、電力効率が事業採算の鍵になる
- トークン100万件当たりのコストもGB300比で最大35倍低減するとしており、大規模運用の経済性向上が見込まれる
何が起きたか
NVIDIAは公式ブログにて、Vera Rubin NVL72システムがAIエージェントワークロードにおいて、GB300 NVL72と比較してメガワット当たりのスループットで最大30倍を達成したとする計測結果を公表した。測定にはSemiAnalysisが開発した「AgentX」ベンチマークが使用されており、実際のエージェントによるコーディングセッションの文脈成長・ツール呼び出し・サブエージェント生成を再現したワークロードが基準となっている。なお、同結果はSemiAnalysisによるレビューが現時点では完了していないとブログ内で明記されており、またVera CPUのツール呼び出し性能は今回の数値に含まれていない。
コスト面では、Vera Rubin NVL72はGB300 NVL72と比べてトークン100万件当たりのコストが最大35倍低くなるとNVIDIAは述べている。同社は、電力制約のあるAIファクトリーにとってメガワット当たりのスループットが売上を、トークン当たりコストが粗利を直接規定すると位置づけ、電力効率を事業上の核心指標として提示している。また、NVIDIA DSX MaxLPS技術を活用することで同一メガワット予算内に最大40%多くのGPUを収容できるとしている。
さらに比較基準として、GB300 NVL72はHopperアーキテクチャ対比でDeepSeek V4 Proモデルにおいて最大15倍のメガワット当たりスループットを実現するとしており、Vera Rubin NVL72はそのGB300をさらに30倍上回るという段階的な性能向上が示されている。技術的な裏付けとして、分離型プリフィル/デコードサービング、大規模エキスパート並列化、分散KVキャッシング、KV対応ルーティング、MegaMoEなどの融合CUDAカーネル、第6世代NVLink（従来Ethernet比でパケットレート10倍・レイテンシ3分の1）などが挙げられている。
原典ハイライト
OpenRouterのデータとして、AIエージェントのワークロードは通常のチャットリクエストと比べてトークン消費量が15倍に上るとされており、文脈が各ステップで累積して数十万トークン規模に達することがある。NVIDIAはこれを踏まえ、電力当たりスループットをAIエージェント時代の中心指標として位置づけた。なお、今回の計測値はSemiAnalysisによる独立レビューが未完了であることがブログ内で明示されている。
出典: NVIDIA Blog（公式ブログ）
So What?（なぜ重要か）
編集部の見立てでは、AIエージェントの本格普及によってトークン消費量が急増し、データセンターの電力制約が事業収益の上限を決める構造が鮮明になりつつある。今回NVIDIAが「メガワット当たりスループット」と「トークン当たりコスト」を前面に出したことは、GPU性能競争の軸が演算速度から電力効率へシフトしていることを示している。ただし今回の数値はSemiAnalysisの独立レビューが未完了であり、最終的な検証を待つ必要がある点は留意が必要だ。
日本企業への示唆
日本企業・データセンター事業者がAIエージェントを基幹業務に組み込む際、単なるGPUの演算性能よりも「同一電力枠でどれだけのエージェントタスクをこなせるか」がTCO評価の主軸になる。電力容量に制約のある国内データセンターでは、次世代インフラ選定においてメガワット当たりスループットの数値を調達基準に組み込むことが実務的な検討事項となる。一方、現時点の数値はSemiAnalysisのレビュー待ちであるため、最終確認後に投資判断を行うことが望ましい。
背景・経緯
NVIDIAはGrace Blackwell（GB200/GB300）に続くプラットフォームとしてVera Rubinを開発・量産段階に移行させている。AIエージェントの普及に伴いトークン需要が急増する中、電力効率を軸とした性能訴求に重点を置いた情報発信を強化している。Vera Rubin NVL72はGPU・CPU・LPU・スイッチ・DPU・SuperNICを含む7チップ構成のプラットフォームとして設計されているが、今回の計測結果はGPU部分を中心とした値であり、全体像の評価は今後の情報を待つ形となる。
