30秒サマリー
- NVIDIAのBlackwell GPU向け機密コンピューティングが、セキュリティ有効時でも通常比最大98%の推論性能を維持
- ハードウェアレベルの暗号化・リモート認証により、推論中のデータ・モデルの機密性を保護
- 金融・医療・製造など規制対応が求められる企業でも、性能を犠牲にせずAIを安全に活用できる可能性を示す
何が起きたか
NVIDIAは2026年7月2日付けの公式技術ブログにて、同社の機密コンピューティング（Confidential Computing、以下CC）技術の詳細とベンチマーク結果を公開した。CCはBlackwell世代のGPU（HGX B200、HGX B300、RTX PRO 6000など）に組み込まれており、シリコンレベルのハードウェア信頼基点、NVLink暗号化、そしてNVIDIAリモート認証サービス（NRAS）を組み合わせて、AIモデルの推論中にデータ・コード・モデルの完全性と機密性を保護する。
ベンチマークはHGX B300上でQwen 3.5-397B-A17B-FP8モデルを用いて実施された。CC有効時のスループット低下は各種条件下で最大7.5%、トークンあたりのレイテンシ増加は最大8.1%にとどまり、CC無効時比で最大98%の性能を維持できることが示された。テストはIntel TDX環境下、同時接続数4〜256、入出力トークン長1024/1024および8192/1024の条件で実施されている。
CCによる性能低下を抑制するために、FlashInferにおけるCC対応自動チューナー、SGLangの非同期デバイス間コピーワーカー、及びCUDAグラフの区分的サポートといった最適化手法が導入された。NVIDIAは今後も推論フレームワークのアップストリームコミュニティと協力し、性能改善を継続するとしている。
原典ハイライト
原文では「CC有効時のスループット・トークン生成レイテンシの低下は概ね8%未満」と明記されており、HGX B300を使った実測ベンチマークの詳細な数値テーブルが公開されている。また、認証（アテステーション）は起動時の一回限りの処理であり、個々の推論リクエストに追加レイテンシを与えないことも説明されている。
出典: NVIDIA Technical Blog（公式ブログ）
So What?（なぜ重要か）
これまでAI推論時のデータ保護は「性能を犠牲にする」と見なされることが多かったが、NVIDIAのベンチマークはその前提を覆す数値を提示した。特に規制業種においてAI活用の障壁となっていた「使用中データの保護（Confidential Computing）」を、ほぼ本番水準の性能で実現できることが公式に示された意味は大きい。これにより、クラウドやマルチテナント環境でのAI推論に対するセキュリティ懸念が技術的に緩和され、導入判断を前進させる根拠が生まれる。
日本企業への示唆
医療・金融・製造など個人情報や機密データを扱う日本企業にとって、CCはAI導入を阻んできた「推論中データ漏洩リスク」への有力な回答となりうる。GDPR第32条やHIPAAに相当する日本の個人情報保護法・業界規制への対応文脈でも活用できるため、法務・情報セキュリティ部門を巻き込んだ技術評価を早期に着手することが望ましい。自社クラウド環境やコロケーション、オンプレミスGPUサーバーへの導入可否を確認し、ベンダー選定時にはBlackwell世代GPUのCC対応要件を調達仕様に盛り込む検討が有効と考えられる（編集部分析）。
背景・経緯
NVIDIAはBlackwell GPUアーキテクチャと同時期に機密コンピューティング機能を本格展開している。CCは製造時にGPUへ焼き付けられた非公開署名鍵を信頼基点とし、AMD SEV-SNPやIntel TDXといったCPU側のTEE（信頼実行環境）と組み合わせて動作する。NVIDIAリモート認証サービス（NRAS）が既知の基準値と照合してTEEの状態を検証する仕組みで、原文ではNIST SP 800-207（ゼロトラスト）やGDPR第32条への準拠も念頭に置いていることが示されている。
