30秒サマリー
- NVIDIAが第6世代NVLinkの詳細を公開。GPUあたり3.6TB/s・ラック全体260TB/sの帯域を実現
- MoEモデルの推論でOTSイーサネット比最大2.3倍のデコードスループットを達成(シミュレーション値)
- HopperからBlackwellへの世代交代でトークン/ワットが最大50倍改善と主張
何が起きたか
NVIDIAは2026年7月20日、同社公式技術ブログにて第6世代NVLinkの技術詳細を公開した。著者はJesse Clayton氏。
第6世代NVLinkは、Vera Rubin NVL72構成において1GPU当たり双方向3.6TB/sのGPU間帯域幅と、72GPU規模のドメインでラックレベル260TB/sの帯域幅を提供する。GPU間転送のエンドツーエンドレイテンシはOTSイーサネットベースの代替ソリューションと比較して3分の1、パケットレートは10倍高いとされる。NVLinkスイッチトレイとスパインケーブル(5,000本)により全GPU間で均一な帯域・レイテンシのオールツーオール通信トポロジーを形成し、FP8演算で130TFLOPSのインネットワーク演算も備える。将来的には最大1,152GPU規模のスケールアップドメインとコパッケージ光接続への対応も予定されるとしている。
NVIDIAは、DeepSeek-R1やQwen 235B、および2兆パラメーターの仮想LLMを対象とした評価(シミュレーションベース)で、NVLinkがOTSイーサネットと比較して最大2.3倍のデコードスループットを実現したと説明している。また、HopperからBlackwellへの移行(NVLink帯域の倍増、スケールアップドメインの8GPU→72GPU拡張、Dynamoの導入などを含む)により、トークン/ワットが最大50倍改善されたと主張している。
ソフトウェア面では、NVIDIA Dynamo、TensorRT-LLM、NCCL(Collective Communications Library)、NIXLなどをフルスタックで統合。分散推論(Disaggregated Inference)、エキスパートパラリリズム、動的リソース配分といった機能をハードウェアと共同設計(エクストリームコデザイン)で実現している。運用面では、ホットスワップ可能なスイッチトレイ、動的ルーティング、インサービスアップデート、細粒度テレメトリなどの可用性機能も実装されているとしている。
原典ハイライト
NVIDIAの技術ブログは「スケールアップネットワークはAIファクトリーの経済性を左右する最重要のアーキテクチャ判断の一つ」と位置づけ、単なる仕様比較ではなく『ファクトリー全体の視点での評価』を求めている。評価軸として(1)実効デリバードパフォーマンス、(2)ファクトリーレジリエンシー、(3)プラットフォーム成熟度・実績あるサプライチェーンの3点を提示しており、これはNVLink以外の選択肢を牽制する文脈でもある。
出典: NVIDIA Technical Blog(公式ブログ)
So What?(なぜ重要か)
AIファクトリー(大規模AI推論・学習基盤)の競争優位が、GPUのFLOPS単体ではなく「GPU間通信インフラ」の性能差に移行しつつあることをNVIDIA自身が公式に強調した。特にMoE(混合エキスパート)アーキテクチャの普及に伴い、全GPU間のオールツーオール通信が推論コスト・速度を規定する要因となっており、スケールアップネットワークの選択がAI投資のROIに直結するという主張は、AI基盤選定の論理を根本から変える可能性がある。
日本企業への示唆
国内でAIインフラ(クラウド・オンプレ問わず)の導入・更新を検討している企業・CSP・研究機関は、GPU性能(FLOPS)だけでなく、GPU間通信帯域・レイテンシ・ソフトウェアスタックの統合度という観点でベンダー比較を行う必要がある。特にMoE型の大規模モデルを内製・活用するケースでは、スケールアップネットワークの選定が推論コスト(トークン/円)に大きく影響しうる。また、NVIDIAが「実績あるサプライチェーン」を評価軸に明示していることは、競合製品(カスタムXPUや他社イーサネット構成)を採用する際のリスク評価を改めて求める示唆でもある。NVLink FusionによるカスタムXPU統合への対応は、国内半導体・AI専用チップ開発企業にとってはエコシステム参入の接点となりうるが、原文では詳細は限定的。
背景・経緯
NVLinkはNVIDIAが10年以上にわたり開発してきた独自のGPU間インターコネクト技術で、今回が第6世代。従来のHopper世代(NVL8構成)から、Blackwell世代(NVL72構成)で1ラック内のGPU接続数を大幅に拡張している。近年、DeepSeekなどMoEアーキテクチャを採用した大規模モデルが急増しており、GPU間通信性能がボトルネックとなるケースが増加。NVIDIAはこの文脈でNVLinkの優位性を技術ブログで体系的に説明する形を取った。


