30秒サマリー
- AlibabaがQwen4アーキテクチャのプレビューとしてQwen3.8-Flash-Nextのモデルウェイトを公開
- NVIDIAがGB300 NVL72での推論検証を実施し、GPUあたり16K超・ユーザーあたり200超トークン/秒を達成
- SGLang・vLLM・NeMoなどのオープンソースレシピでファインチューニングから本番推論まで対応可能
何が起きたか
AlibabaはQwen4アーキテクチャの先行評価版として、Qwen3.8-Flash-Nextのモデルウェイトを開発者向けに公開した。同モデルはパラメータ総数125B（トークンごとに6Bを活性化）のMultimodal Mixture-of-Experts（MoE）構成で、51BのN-gramエンベディングを追加で持つ。ネイティブのコンテキストウィンドウは262,144トークンで、YaRNを用いて最大100万トークンまで拡張できる。
アーキテクチャ面の特徴は、Gated DeltaNet（GDN）とQwen Sparse Attention（QSA）を組み合わせたハイブリッド構成にある。全レイヤーの4分の3がGDNを使用して過去の文脈を固定サイズの再帰的状態に圧縮し、KVキャッシュの増大を抑制する。残り4分の1のレイヤーがQSAで全コンテキストを精密に参照する仕組みだ。Alibabaが公表したベンチマークによると、QSAはフルアテンションと比較してプリフィル時最大7.6倍、デコード時最大4.9倍の高速化を実現し、100万トークンのコンテキスト長・90%のプレフィックスキャッシュヒット率という条件下では、Qwen3.7-Plusの8.6倍のプリフィルスループットを達成したとされる。
NVIDIAはGB300 NVL72での推論検証を実施し、GPUあたり16K超のトークン/秒、ユーザーあたり200超トークン/秒を確認したと説明している。GB300 NVL72は72基のBlackwell Ultra GPUをラックスケールで統合し、130TB/sのNVLinkドメインで全対全通信を実現するプラットフォームだ。また、DGX StationやRTX PRO 6000搭載ワークステーションなどのローカルNVIDIAハードウェアでも動作するとされており、ローカルでのプロトタイプ開発から本番環境へのスケールアップが可能な構成となっている。ファインチューニングはNVIDIA NeMo AutoModelで、強化学習はNVIDIA NeMo RLレシピで対応できるほか、推論はSGLang・vLLM・TokenSpeedのオープンソースエンジンが利用できる。
原典ハイライト
Alibabaのベンチマークでは、100万トークン処理時にQSAがフルアテンション比でプリフィル最大7.6倍・デコード4.9倍の高速化を達成。GB300 NVL72上ではGPUあたり16K超トークン/秒・ユーザーあたり200超トークン/秒のスループットをNVIDIAが確認した。
出典: NVIDIA Technical Blog（公式ブログ）
So What?（なぜ重要か）
編集部の見方として、Qwen3.8-Flash-Nextは100万トークン規模の長文脈推論でも現実的なスループットを維持できる設計であり、大規模コードベースの解析や複数ツールを連携させるエージェント型AIコーディングへの適用可能性が高まっている。NVIDIAが「Day 0」でサポートを表明したことで、最新モデルを即座に試せる環境が整いつつあるが、GB300 NVL72はラックスケールの大型インフラであり、導入コストと実際のビジネス効果の検証が不可欠といえる。
日本企業への示唆
日本企業への示唆として、まずモデルウェイトはHugging FaceやModelScopeから取得でき、QwenCloudのホスト環境でも試せるため、PoC段階ではオンプレミスの大型投資なしに評価を開始できる。エージェント型コーディングや大規模ドキュメント処理を検討する企業は、RTX PRO 6000搭載ワークステーションなどのローカル環境で先行評価し、要件が固まってからGB300 NVL72への移行を検討するという段階的アプローチが現実的だ。また、NeMo AutoModelによるLoRAファインチューニングへの対応は、日本語や業界固有コードの追加学習コストを抑える観点でも注目に値する。
背景・経緯
Qwen3.8-Flash-Nextは正式リリースではなく、次世代Qwen4アーキテクチャのプレビューとして公開されたモデルと原文は説明している。NVIDIAはAlibabaが公開したこのモデルに対してDay 0の機能サポートを提供し、GB300 NVL72での検証結果をTechnical Blogで公開した。ブログは2026年8月26日付で、著者はNVIDIAのシニアプロダクトマーケティングマネージャーのRajath Narasimha氏。
