30秒サマリー
- OpenAIが自社初の推論専用チップ「Jalapeño」の初期ベンチマーク結果を公式ブログで報告
- 既存市販システム比で消費電力あたり1.5〜1.9倍のスループット、1.7〜3.6倍の低遅延を達成
- チップ設計にはAIを活用し、初期設計からテープアウトまで9か月で完了したとしている
何が起きたか
OpenAIは2026年8月25日付の公式ブログで、同社初の自社設計推論チップ「Jalapeño」の初期評価結果を公開した。SemiAnalysisが提供する公開ベンチマーク「InferenceX」を用いて、GPT‑OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3つの公開モデルで測定した結果、既存の市販AIシステムと比較して消費電力あたりのスループットが1.5〜1.9倍、エンドツーエンドの遅延が1.7〜3.6倍低いと報告している。高インタラクティブ用途では最大4.1倍の性能向上も記録したという。
チップの定格電力は700ワットだが、実際のテスト時の持続電力は550ワット以下にとどまったとOpenAIは説明している。同チップはプリフィル（プロンプト処理）とデコード（トークン生成）の両フェーズを単一アーキテクチャで効率的に処理できるよう設計されており、KVキャッシュをチップ内にローカル配置することでデータ移動を最小化する構造が特徴だとされる。
また、チップの設計プロセス自体にもAIが活用され、初期設計からテープアウトまでを9か月で完了したとしている。さらに、AIがカーネルの最適化やスケジューリングを担えるよう、プログラミングモデルを明確・予測可能な構造に設計したとも説明している。OpenAIは今後、Jalapeñoを段階的にスケールアップし、製品への搭載を進めていく方針を示した。
原典ハイライト
原文では「Jalapeño delivered 1.5 to 1.9 times more AI work per watt at peak throughput and 1.7 to 3.6 times lower end-to-end latency than the comparison systems」と具体的な数値が示されており、OpenAI内部テストではフロンティアモデルでさらに優位性が拡大したとも記述されている。
出典: OpenAI News/Research（公式ブログ）
So What?（なぜ重要か）
OpenAIが自社製チップで推論のスループットと低遅延を同時に改善できたことは、AIサービスのコスト構造と応答速度の両面に影響する。これまでGPUベンダーへの依存が大きかった同社が、モデル・ソフトウェア・チップ・システムを垂直統合する「フルスタック」戦略を本格始動させたことを意味する。消費電力あたりの処理量が向上すれば、同じインフラコストでより多くのAPI呼び出しをさばけるようになり、中長期的なAPI単価の引き下げ圧力につながる可能性がある。
日本企業への示唆
OpenAI APIを業務システムやエージェント基盤に組み込んでいる日本企業にとって、推論コストの低下と応答速度向上は直接的なメリットになりうる。一方、NVIDIAなどGPUベンダーへの依存を前提にAIインフラ投資を計画している企業は、AI半導体の競争環境が変わりつつある点を中長期の調達戦略に織り込む必要がある。エージェント型AIを社内導入する際には、遅延の複利的な影響が業務効率に直結するため、推論速度の評価基準をベンダー選定に明示的に含めることが望ましい。
背景・経緯
OpenAIはJalapeñoを「同社初の自社設計推論チップ」と位置づけており、原文はその「初期結果」を報告する内容である。チップの発表自体は以前に行われていたとみられるが、原文ではその時期や詳細には言及がない。GoogleのTPUやAmazonのTrainiumなど、大手クラウド・AI企業が自社チップ開発を進める流れの中で、OpenAIも独自シリコンによるインフラ垂直統合を推進していることが背景にある。
