AI News JAPAN

世界のAIニュースを最速で把握できるメディア

Advertisement

Meta「Muse Glimmer」300億パラメータモデルをNVIDIA上でローカル動作—クラウド不要のエージェントAI

30秒サマリー

  • MetaがローカルAIエージェント向け300億パラメータの開源モデル「Muse Glimmer」を公開
  • 単一GPU上で動作し、社内データをクラウドに送らずリアルタイム推論が可能
  • GeForce RTX 5090からDGX Stationまで幅広いNVIDIAハードで対応

何が起きたか

MetaはオープンウェイトのLLM「Muse Glimmer」を2026年8月10日に公開した。パラメータ数は300億(30B)、コンテキストウィンドウは12万トークン以上を持つDense(密)アーキテクチャで、チャット向けではなく長時間・多ステップのエージェントワークフローを主な用途として設計されている。

アーキテクチャ上の特徴は、処理するすべてのトークンに対して全パラメータを活性化するDense構造にある。Mixture-of-Experts(MoE)モデルで生じるルーティングのオーバーヘッドや処理経路の不均一性がなく、命令追従の安定性・長コンテキストでの一貫性・予測可能なレイテンシが得られるとNVIDIAは説明している。

NVIDIAのBlackwell Ultra GPU上では1GPU当たり2万トークン/秒超(BF16/NVF4精度)のスループットを達成するとされる。GeForce RTX 5090(VRAM 32GB)・DGX Spark・DGX Station・Jetsonなど複数のNVIDIAプラットフォームで単一GPUのVRAM内に収まるよう最適化されており、外部エンドポイントへのデータ送信なしにオンデバイス推論が可能。デプロイ方法はNVIDIA NIMコンテナ、SGLang、vLLMから選択できる。

原典ハイライト

NVIDIAの公式テクニカルブログは「Muse GlimmerはVRAMが単一GPU内に収まるサイズで、モデル分割やCPUオフロード、外部エンドポイントが不要。エアギャップや法規制でクラウド推論が使えない企業環境にも対応する」と説明している。また、NVIDIA NeMo AutoModelによるSFT・LoRAファインチューニングおよびNeMo RLによる強化学習への対応も明記されている。

出典: NVIDIA Technical Blog(公式ブログ)

So What?(なぜ重要か)

300億パラメータ規模のエージェントAIが単一の業務用GPUでオンプレミス動作できる水準に到達したことを示す事例。これまでエージェントAI活用の障壁だった「機密データのクラウド送信リスク」「高い推論コスト」「レイテンシの不安定さ」を同時に低減できる可能性があり、エンタープライズ向けAI活用の選択肢が広がる。

日本企業への示唆

個人情報・営業秘密・設計図など機密性の高いデータを扱う日本企業(製造・金融・医療・法務など)にとって、クラウドに一切データを送らないローカルエージェントAIの実用化は直接的な規制対応策になり得る。DGX StationやJetsonを用いたオンプレ・エッジ構成であれば、既存のセキュリティポリシーやISMS要件を維持しながらエージェントAIを導入できる。また、NeMo AutoModelによるファインチューニング対応により、自社の業務ドキュメントや社内規程を学習させた専用エージェントの構築も選択肢に入る。PoC検討の際はVRAM要件(RTX 5090で32GB)とスループット(2万トークン/秒超)を起点にハードウェア調達計画を立てることを推奨する。

背景・経緯

MetaはLlama系列のオープンウェイトモデルで知られるが、原文は今回の公開を「オープンソースエコシステムへの復帰」と表現しており、Muse Glimmerがローカルエージェント用途に特化した新たな方向性のモデルであることを示唆している。NVIDIAはBlackwell Ultraアーキテクチャを搭載したDGX Spark・DGX Stationを2026年時点で提供中とみられ、同モデルの最適化対象となっている。