AI News JAPAN

世界のAIニュースを最速で把握できるメディア

Advertisement

Liquid AI、LFM2.5向け投機的デコード技術「DSpark」のドラフトモデルを公開

30秒サマリー

  • Liquid AIがLFM2.5シリーズ3モデル向けにDSparkドラフトモデルを公開、H100 GPUで最大3.18倍の推論高速化を実現
  • 出力品質を変えずにスループット向上。MacBook Pro(M4 Max)でも最大2.87倍の高速化を確認
  • llama.cppとSGLangに初日からオープンソース対応。エッジ・クラウド双方の推論コスト削減を狙う

何が起きたか

Liquid AIは2026年8月20日、自社のLFM2.5ファミリー3モデル(LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1B)に対応するDSparkドラフトモデルのチェックポイントをHugging Face上で公開した。DSparkは「投機的デコード(Speculative Decoding)」と呼ばれる手法を採用しており、約3億パラメータの軽量ドラフトモデルが候補トークンを先に生成し、本体モデルが一括検証することでデコード速度を大幅に向上させる。

公式ブログが報告するベンチマーク結果によると、H100 GPU(BF16、SGLang使用)では最大3.18倍のスループット向上(LFM2.5-8B-A1BのMATH500で428→1362 tok/s)を記録。エッジデバイスであるM4 Max搭載MacBook Pro(FP16 GGUF、llama.cpp使用)では最大2.87倍の向上(LFM2.5-1.2B-InstructのHumanEvalで136→389 tok/s)を達成した。投機的デコードの仕組み上、出力はターゲットモデル単独のgreedy出力と同一であり、品質は変わらないとしている。

また、LFM2.5-2.6Bにおいては複数ツールを使うシナリオでの関数呼び出し(function-calling)レイテンシを平均57%削減できるとも示した。一方、LFM2.5-8B-A1BはMoE(Mixture of Experts)アーキテクチャに起因する制約から、オンデバイスでの平均高速化は18%にとどまり、GPU環境との差が大きい点が課題として挙げられている。

DSparkドラフトモデルはSafetensors形式およびGGUF形式でHugging Faceからダウンロード可能であり、SGLang向けおよびllama.cpp向けの実装はいずれもオープンソースとして公開されている。

原典ハイライト

Liquid AI公式ブログは「DSparkドラフトモデルはメモリ使用量の最小増加でデコード速度を大幅に向上させ、出力品質は変わらない」と説明。LFM2.5-2.6BがM4 Max MacBook Pro上で平均約140 tok/sを達成し、「ほとんどのプロプライエタリなクラウドモデルが提供するスループットを大きく上回る」と言及している点が注目される。

出典: Hugging Face Blog(公式ブログ)

So What?(なぜ重要か)

推論速度の向上はそのままAPIコストやハードウェア費用の削減に直結する。特に注目すべきは、H100のような大型GPUだけでなく、MacBook ProクラスのエッジデバイスでもGPU時代に匹敵する高スループットが得られることが示された点だ。これにより、クラウドAPIに依存せずローカル環境でのAIエージェント活用という選択肢がより現実的になりつつある。また、llama.cppとSGLangへの初日対応でエコシステムとの統合障壁も低い。

日本企業への示唆

社内チャットボットや文書処理、コーディング支援など推論を多用する業務でLFM2.5系モデルを検討している企業にとって、DSparkは同一ハードウェアでのスループット向上=GPUコスト圧縮の手段となり得る。特に機密データを外部に出せないオンプレミス・エッジ環境での活用を検討する担当者は、MacBook ProやApple Siliconサーバーでの動作実績を示す本ブログを検証の出発点として活用できる。一方、MoEモデル(8B-A1B)はオンデバイスでの恩恵が現状限定的である点を踏まえ、用途とハードウェア環境に応じたモデル選定が必要になる。

背景・経緯

Liquid AIはLFM(Liquid Foundation Model)2.5シリーズをすでに提供しており、同ブログでは量子化や視覚対応モデルに関する記事も2026年8月に公開されている。DSparkはEAGLE-3やDFlashなど既存の投機的デコード研究を発展させた手法で、本取り組みでは対応するドラフトモデルのチェックポイント公開と推論フレームワークへの統合が今回のトピックとなっている。