30秒サマリー
- NVIDIA H100とIntel TDX環境で機密コンピューティングモードを有効にすると、通常モード比で最大約28%の遅延増と約21%のスループット低下が生じることが論文で示された
- Mistral-7BとQwen3-30B-A3Bの2モデルで検証し、大規模モデルほど高負荷時に飽和点が早まる傾向が確認された
- 機密GPU推論は実用的なスループットを維持できるが、キャパシティプランニングには性能ペナルティの考慮が不可欠と結論付けている
何が起きたか
Wei Wangら3名の研究者は2026年5月、NVIDIA H100 80GBを搭載したIntel TDX（Trust Domain Extensions）機密インスタンス上で、LLM推論ワークロードの性能ベンチマーク結果をarXivに公開した。
検証には、Mistral-7B v0.1とQwen3-30B-A3Bの2モデルを使用。測定指標は「最初のトークン生成までの時間（TTFT）」「エンドツーエンドリクエストレイテンシ」「リクエストあたりのトークン生成スループット」「グローバルトークンスループット」「クローズドループリクエストスループット」の5項目。
固定リクエストレート実験では、機密モードにより平均TTFTがMistral-7Bで21.8%、Qwen3-30B-A3Bで27.8%増加した。グローバルトークンスループットはそれぞれ17.7%、21.1%低下した。クローズドループ実験ではスループット差は11.5〜20.2%の範囲に収まったが、大規模モデルほど機密モードで飽和点に早く到達することが観察された。
論文は「機密GPU推論は負荷下でも実用的なスループットを維持できる」としつつも、「定常的なスループットペナルティと、大規模モデルで見られる早期飽和挙動の両方をキャパシティプランニングに織り込む必要がある」と結論付けている。
原典ハイライト
機密コンピューティングモード有効時、TTFTは最大27.8%増、グローバルトークンスループットは最大21.1%減。クローズドループでも11.5〜20.2%のスループット差が存在し、大規模モデルでは飽和点の早期到達が確認された。
出典: arXiv cs.AI（論文）
So What?（なぜ重要か）
機密コンピューティングは医療・金融・法務など機密性の高いAI推論の「実運用要件」になりつつある。本論文は、その際に避けられない性能コストを初めて定量的に示した研究として重要度が高い。単に「使える」かどうかではなく、「何%のスループット余裕をどう確保するか」という設計判断が求められる段階に入ったことを示している。
日本企業への示唆
機密AI推論の導入を検討する日本の金融機関・医療機関・製造業の情報システム部門は、H100+Intel TDX構成を採用する場合、通常モード比で約20〜28%の性能余裕をインフラ設計時に見込む必要がある。特に30Bクラス以上の大規模モデルを高並列で運用する場合、飽和点が早まるためGPUノード数の余剰確保またはリクエストキュー設計の見直しが不可欠。コスト試算においても、同等のSLAを維持するには機密モードで約1.2〜1.3倍のGPUリソースが必要になる可能性を考慮すべきと編集部は見る。
背景・経緯
機密コンピューティングは、実行中のデータやモデルをハードウェアレベルで保護する技術で、クラウド事業者を含む第三者からの不正アクセスを防ぐ。Intel TDXはその代表的な実装の一つ。AIモデルやユーザーデータの機密性が求められる業界での採用が広がっているが、GPU推論への具体的な性能影響を定量化した研究は原文の段階では限られていたとみられる。
