AI News JAPAN

世界のAIニュースを最速で把握できるメディア

Advertisement

Superfluid:遊休PCをLLM推論クラスタに変えるオープンソースAIサーバー論文

公開:2026年11月18日, 最終更新:2026年11月18日

Prabod Rathnayakaら6名の研究者は2026年11月13日、複数の異なるハードウェアマシンを単一のLLM推論エンドポイントとして束ねるオープンソースサーバー「Superfluid」の論文をarXivに公開した。Apache-2.0ライセンスで提供される。

30秒サマリー

  • 社内の遊休マシンを束ねて単一LLM APIエンドポイントを構成できるオープンソースサーバー「Superfluid」の研究論文が公開された。
  • 単一デバイス上では複数エージェントとインタラクティブユーザーの優先度を制御し、llama-serverやOllamaと比べて初回トークン時間を大幅に短縮したと報告されている。
  • 6台・異なるチップベンダー混在環境での実験では、スループットが112tok/sから534tok/sに向上し、全5,041リクエストをロスなく処理したとされる。

Superfluidの設計と実験結果

Superfuidは、ローカル推論における二つの課題を解決するために設計されたLLMサーバーである。第一の課題は単一デバイス上での複数エージェントとインタラクティブユーザーの共存であり、第二の課題は複数台のマシンが多くの時間帯に遊休状態になることである。

単一デバイス上では、Superfuidはllama.cpp・MLX・BaseRTを分離されたワーカープロセスで駆動する1つのスケジューラーを通じ、エージェント処理よりインタラクティブリクエストを優先する。また、複数リクエストが共有するプロンプトを一度だけ計算し、すべてのトークンをクライアントに届く前に耐久ログに書き込む機能も備える。

複数デバイスにまたがる構成では、1台のSuperfluidサーバーが異なるハードウェアのマシン群を単一APIエンドポイントとして束ねる。各マシンは計測されたスピードに応じてワークロードを受け取り、負荷中にマシンが参加・離脱しても処理中リクエストは失われないとされている。

論文が報告するベンチマーク結果によると、Apple M5 Pro上でQwen3.8-27Bを動作させた場合、8つのエージェントが稼働中にチャットを送信した際の初回トークン到達時間はSuperfluidで1.5秒だったのに対し、llama-server・Ollama・llama.cppでは291〜612秒だった。3社のチップベンダーの機器6台で64ユーザーを1時間シミュレートした実験では、スループットが112tok/sから534tok/sに成長し、全5,041リクエストが失われることなく処理された。さらに12台のMac Studio M3 Ultraによる構成では、384エージェントからの38,563リクエストに対して10,656tok/sのスループットを、障害ゼロで維持したと報告されている。

Superfluidの主な仕様・数値

  • ライセンス:Apache-2.0
  • 対応バックエンド:llama.cpp、MLX、BaseRT
  • M5 Pro / Qwen3.8-27B 初回トークン時間(Superfluid):1.5秒(8エージェント並行時)
  • M5 Pro / Qwen3.8-27B 初回トークン時間(比較対象):291〜612秒(llama-server・Ollama・llama.cpp)
  • 6台混在構成 スループット(開始時→最大):112 tok/s → 534 tok/s
  • 6台混在構成 処理リクエスト数:5,041件(ロスなし)
  • 12台Mac Studio M3 Ultra構成 スループット:10,656 tok/s
  • 12台構成 総リクエスト数:38,563件(384エージェント、障害ゼロ)

出典: arXiv cs.CL(論文)

なぜ重要か(編集部の分析)

編集部の見方では、Superfuidが示す最大の意義は「異なるベンダーの遊休マシンをクラウドなしでLLMクラスタ化できる」点にある。クラウドAPIのトークン課金やデータ送信リスクを避けながら、既存ハードウェア資産でLLM処理能力をスケールアウトできる可能性を示した研究成果であり、オンプレミスAI基盤の設計に影響を与えうる。

日本企業への示唆(編集部の分析)

編集部の分析では、日本企業にとって特に注目すべきは「データをクラウドに送らずにLLMを運用できる」点と「既存社内機器を活用できる」点の組み合わせである。機密性の高い業務データを扱う金融・製造・医療などのセクターや、クラウド契約コストを抑えたい中堅企業にとって、オンプレミス分散LLM推論の実現可能性を検討する上での参照事例となりうる。ただし本論文はarXivの査読前論文であり、実運用での検証は各自が行う必要がある。

背景・経緯

LLMのローカル実行ツールとしてはllama.cppやOllama、MLXなどが広く使われているが、これらはいずれも単一マシン・単一ランタイムを前提とした設計である。複数マシンへのスケールアウトや、エージェントとインタラクティブユーザーの優先度制御は既存ツールの課題として残っており、Superfuidはこの空白を埋める設計として提案されている。

Superfluidについてよくある質問

Q. Superfuidは既存のllama-serverやOllamaとどう違うのか?

A. 論文によると、既存のローカルサーバーは1台のマシン上で1つのランタイムを提供する設計であるのに対し、Superfuidは異なるハードウェアの複数マシンを単一APIエンドポイントとして束ね、エージェントとインタラクティブユーザーの優先度制御も行う。ベンチマーク上の初回トークン時間でも大幅な差が示されている。

Q. Superfuidはどのようなライセンスで利用できるか?

A. 論文によるとApache-2.0ライセンスで公開されている。

Q. Superfuidはどのバックエンドに対応しているか?

A. 論文ではllama.cpp・MLX・BaseRTの3つを分離されたワーカープロセスで駆動すると説明されている。

関連記事