LFM2.5-24B-A2B-DSpark のヒーロータイトルカード。「静かに出荷」と表示され、327.7M ドラフトパラメータ、ブロックサイズ 9、同時実行数 1 での平均スループット 2.38x のスタットピルを配置し、その下に「ベンダー報告値。NVIDIA B300 上で FP8 ターゲットを用いてベンチマーク」と記載されたフッター、右下に OrcaRouter ロゴを合成。
Guides & Insights

LFM2.5-24B-A2B-DSparkがHugging Faceで公開済み — Liquid AIはまだ発表していないだけだ

著者

Elias Hawthorne

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

Liquid AI の最大モデルのモデルカードには、その投機的デコーディング用ドラフターが依然として近日公開と記されている。ドラフターは登場しない。LFM2.5-24B-A2B-DSparkには 2026-10-19 以来公開リポジトリがあり、655 MB の BF16 チェックポイント、完全なベンチマーク表、翌晩に公開された GGUF サイドカー、そしてカードに書き込まれた SGLang 用の起動フラグを備えている。欠けているのは発表だ。LFM2.5-24B-A2Bは、これが高速化するために存在する 24B の混合エキスパートモデルで、2026-10-13 にブログ記事、日付付きのローンチ、価格表、プレイグラウンドへのリンクを得た。そのドラフターはリポジトリとモデルカードを得ただけで、Liquid AI 自身の投機的デコーディングに関するドキュメントページでは、依然として 1.2B、2.6B、8B、VL-3B のターゲットのみがサポート対象として記載されている。このようなリリースの背後にある、文書化された AI の障害やエージェントインシデントは、OrcaRouter AI Incident Archiveに収集されており、各項目には独自の情報源、重大度、信頼度グレード、異議ありフラグが付いている。

その隔たりこそがここでの本題であり、それが何を意味し、何を意味しないのかについては正確を期す価値がある。重みが公開され、ベンチマークがモデルの隣にあるCSVから再現でき、推論経路がすでに上流にマージされているリポジトリは、本物のリリースであってリークではない。しかし、それについてベンダーが文章で確認したことは何もなく、第三者が測定したこともなく、カードに載っている数値は、同じチームが自分たちで選んだ同じハードウェア上で測定した数値だ。本稿はその二つを分ける。リポジトリが確立していることと、依然として主張にとどまっていることだ。

リポジトリには実際に何が含まれているのか

チェックポイントは十分に小さいので、ファイル一覧自体が有益な情報になっている。model.safetensorsは655,421,522バイト——BF16で327.7Mパラメータ——で、全体はこれに設定ファイル、ライセンス、ベンチマークディレクトリを加えただけだ。それ以外は何もない。トークナイザも埋め込み行列もLMヘッドもない。なぜなら、このアーキテクチャはロード時にその3つすべてをターゲットから再利用するからだ。それが設計だ。ドラフターは、世界をどう表現するかではなく、ターゲットの語彙で次のトークンのブロックをどう推測するかを知っていればよい。

設定は、8月のDSpark記事が説明した形状を裏付けている。隠れサイズ2,048、中間サイズ6,144のフルアテンション層が5層でSiLU/SwiGLUを使用。32ヘッド、8個のKVヘッド、ヘッド次元64のグループ化クエリ注意。ランク256のMarkovヘッドと別個の信頼度ヘッド。ブロックサイズ9、語彙数128,000、最大位置埋め込み131,072はターゲットのコンテキストウィンドウと正確に一致する。このドラフターに固有のフィールドはtarget_layer_ids: [2, 10, 18, 26, 34]で、num_target_layers: 40に対して — ドラフターがコンテキストとして読み取る24Bモデルの5層である。これらのインデックスがあるため、あるLFM2.5モデル用に訓練されたドラフターを別のモデルにそのまま向けることはできない。

A capture of the Hugging Face repository page for LiquidAI/LFM2.5-24B-A2B-DSpark showing the model card, its 327.7M draft parameter specification, the lfm1.0 licence badge and a file listing containing a single model.safetensors of roughly 655 MB.

ライセンスはlfm1.0で、ファミリーの他のモデルと同じカスタムライセンスです。これは、内部で使用するのではなく、ターゲットとドラフターを同梱した成果物を再配布する予定がある人にとって留意すべき点です。

ベンチマーク表を、ベンダー表として読む

このカードは、8つのデータセットについて、コンカレンシー1、32、256でのスループットを公開しています。単一のNVIDIA B300上で、FP8ターゲット、BF16 KVキャッシュ、temperature 0という構成です。以下の数値はすべてLiquid AI自身によるもので、社外で再現されたものではありません。生の行はリポジトリの benchmarks/b300-fp8.csv に掲載されています(計算をご自身で確認したい場合)。

• 8つのデータセットの算術平均 — 同時実行数1で2.38×、同時実行数32で2.69×、同時実行数256で1.71×。

• 最良の単一セル — 並列度32のMBPPで3.28倍、MATH-500が3.04倍で僅差で続く。

• 最悪の単一セル — 同時実行数256でのLiveCodeBenchが1.34×、256でのAIMEが1.36×。

• ステップごとに受け入れられるトークン数 — 平均5.16、上限はブロックサイズとターゲットのボーナストークンを合わせて設定される10。

• 最高の受理率 — MBPPで1ステップあたり6.70トークン、最低 — LiveCodeBenchで4.02。

その表については、見出しよりも興味深い点が2つある。1つ目は、平均高速化率が同時実行数1より同時実行数32の方が高いことだ——2.38倍に対して2.69倍——これは、バッチ処理が利点を食いつぶすという投機的デコーディングのよくある話とは逆だ。2つ目は、同時実行数256で崩壊することだ。256件の同時リクエストでは、MATH-500について、そのGPU上でターゲットモデルだけですでに毎秒約15,000トークンを生成しており、ドラフターの寄与は1.79倍まで落ちる。「2.4倍」だけを見てクラスタのサイズを見積もるサービングチームは誤る。バッチ処理エンドポイントで重要な数値は1.71倍であり、しかもそれもB300での数値で、ほとんどのデプロイメントが一致しない同時実行プロファイルでのものだ。

8月以降に変わったその文

Liquid AIが2026-08-20に1.2B、2.6B、8B-A1Bの各ターゲット向けのDSparkドラフターをリリースしたとき、そのブログ記事は強い主張をしていました。ターゲットは提案されたすべてのトークンを検証し、却下されたものは自身の選択で置き換えるため、「したがって、出力される系列は構造上、ベースラインのグリーディ法と同一である」というものです。8Bドラフターのモデルカードもその趣旨を繰り返し、「まったく同じ出力」を約束しています。

24Bドラフターのカードにはそうは書かれていません。そこには、ターゲットが提案されたすべてのトークンを検証すると書かれており、さらにこう述べています。「バッチ検証と通常のデコーディングの間の浮動小数点の差異により、貪欲サンプリングの場合も含め、異なるテキストが生成されることがあります。」そして、測定はタスク精度ではなく性能を評価するものだと付け加えています。

これはより慎重な文であり、正しい文でもある。バッチ検証は、逐次デコードと同じ浮動小数点演算を同じ順序で実行するわけではない。したがってビット同一性は、厳密算術では成り立つが、実ハードウェア上では常に成り立つとは限らない仮定である。新しいモデルカードにはそう書かれていて古いものには書かれていなかったという事実は、ドキュメントの訂正なのか、このドラフターの学習中に判明したことなのかのどちらかである——リポジトリからはどちらか分からず、Liquid も説明を公開していない。実用上の意味は狭いが現実的である。回帰テストスイートがモデル出力をバイト単位で差分比較している場合、このドラフターを追加するとテストが引っかかることがあり、それはドラフトのバグではなく演算の性質によるものである。

なぜそのドラフターは自身のモデルより6日後に到着したのか

時系列を整理して示す価値がある。それは、戦略に関するどんな憶測よりも、沈黙をよく説明してくれるからだ。

• 2026-08-20 — Liquid、DSparkファミリーを公開:LFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1B向けのドラフター。24B向けのターゲットモデルはまだ存在しません。

・2026-08-31 — SGLangがPR #31041をマージし、LFM2およびLFM2-MoEのDSpark投機的デコーディング対応を追加した。24Bが必要とするMoE経路はここで導入され、それが提供することになるモデルより1か月半早い。

• 2026-10-13 — LFM2.5-24B-A2B はブログ記事と価格を伴ってリリースされる。同じ日、SGLang は PR #43939 をマージし、これによりサーバーは Hugging Face の LFM2-MoE 設定を直接再利用できるようになる。

• 2026-10-19 — LFM2.5-24B-A2B-DSpark リポジトリが登場し、重みとベンチマークが含まれています。

• 2026-10-20 — GGUFサイドカーが登場:llama.cpp向けの単一の664 MB F16ファイル。

• 2026-10-21 — ターゲットモデルカードにドラフター行が追加されます。まだ近日公開。

その一連の流れを読めば、最もありそうな説明は地味なものだ。インフラは成果物より先にリリースされ、成果物は学習が完了した時点でリリースされた。告知はまだ行われていないマーケティング上のタスクである。リポジトリには、意図的に静かにローンチしたことを示すものは何もない——カードは完成しており、ベンチマークはプロトコルに至るまで文書化され、SGLang と llama.cpp の呼び出し方法も完全に書き出されている。ここでの「静か」とは、未告知という意味であり、隠しているという意味ではない。

A capture of Liquid AI's DSpark blog post dated August 20, 2026, headed 'LFM2.5-DSpark: Up to 3.2x Faster Inference from H100 to MacBook', showing that the release covered draft models for LFM2.5-1.2B-Instruct, LFM2.5-2.6B and LFM2.5-8B-A1B only — not the 24B target.

まだ知り得ないこと

この記事の正直な限界は短いリストにあり、各項目は形式的なものではなく実際の欠落だ。

独立した測定は存在しない。 Artificial Analysisの項目も、第三者による受け入れテストも、スループット表の再現もない。2026-10-21時点で、リポジトリのダウンロード数は7、いいねは1件だった。本記事の高速化はすべてベンダーによるもので、ベンダーが選んだGPU上で、ベンダーが選んだ目標精度を用いた結果である。

発表がないため、位置づけも示されていない。 Liquid がこれを 24B の本番採用に向けた推奨として意図しているのか、研究用の成果物として意図しているのかは分からない。カードの調子 — 正式ローンチ用のフラグ、ファミリー表、問い合わせリンク — からは前者が示唆されるが、それは推測にすぎない。

価格はありません。存在し得ないからです。 ドラフターはサービス提供されるモデルではありません。100万トークンあたりの料金はなく、呼び出し可能なエンドポイントとしてモデルカタログに載ることも決してありません。そのコストは、ターゲットの隣で占有する655 MBのVRAMまたはユニファイドメモリと、トークンではなくブロックを検証する追加の計算です。

Appleシリコンに関する数値はありません。 これが最大のギャップであり、なぜそれが他のどれよりも重要かは次のセクションで説明します。

欠落している Mac の番号こそが興味深い省略です。

24Bモデルはオンデバイスモデルとして販売されています。Liquidのローンチ投稿は、Apple M5 Maxで毎秒184トークンという数字を冒頭に掲げ、オンデバイスで高速かつプライベートなエージェント向けに設計されているとしています。対照的に、ドラフターのモデルカードにはB300の数値しか記載されていません。8月の8Bドラフターについては、LiquidはH100とM4 Maxの両方の結果を公開し、両者の差について率直でした。H100での平均2.54倍の高速化は、MacBookでは1.18倍になりました。その理由として挙げられていたのは仕組み上のことで、kトークンを検証すると、単一のデコードステップよりも多くのエキスパートが活性化するため、MoEターゲットでは検証済みトークンあたりの重みトラフィックが増え、さらにllama.cppのMetalバックエンドがそれを悪化させていました。

LFM2.5-24B-A2Bも専門家混合モデルです。各ブロックに64人の専門家がいて、トップ4ルーティングを採用しています。同じ仕組みが当てはまりますが、24Bはより大きなモデルであり、ページングする専門家集合も大きくなっています。だからといって、オンデバイスでの高速化が小さいと証明されるわけではありません。ドラフターはこのターゲット向けに特別に訓練されており、受理率は当初の8Bよりはるかに良いからです。しかし、ラップトップのユーザーが必要とする唯一の数値こそ、このカードに載っていない唯一の数値だということも意味します。B300の比率がMacにも当てはまるという想定は、未検証として扱ってください。

実行すること、そしてあなたを悩ませるたった1つのフラグ

GPU では、公開されているレシピは SGLang を使用し、FP8 ターゲットとドラフターを組み合わせ、ブロックサイズ 9、ドラフトトークン 10 です。インストールされた SGLang は、PR #31041 の LFM2-MoE DSpark パスと PR #43939 の設定再利用を含む十分新しいものである必要があります。古いビルドでは、サーバーはドラフターのアーキテクチャをまったく認識しません。ベンチマーク数値は FP8 ターゲットを前提としていることに注意してください。BF16 ターゲットでは動作が異なり、必ずしも優れているとは限りません。ドラフターは特定のターゲットロジット分布に対して学習されているためです。

CPU と Apple silicon では、経路は llama.cpp と F16 GGUF サイドカーです。サイドカーは自身のメタデータからブロックサイズを読み取り、--spec-draft-n-max をそれにクランプするため、ドラフト長を 12 に設定しても 12 にはなりません。応答ごとのタイミングでは draft_n と draft_n_accepted が公開されます。これは自分のワークロードで注視すべきフィールドです。自分のトラフィックでの受け入れ率がカードの平均値 5.16 を大きく下回る場合、ドラフターはフォワードパスを 1 回分消費するだけでほとんど得るものがないため、正直なところそれを切り離すべきです。

今週モデルを選ぶ場合、これが何を意味するか

ほとんどのチームにとって実務上の影響は小さい。ドラフターは能力ではなく速度を変えるからだ。LFM2.5-24B-A2B がプロンプトに答える本体であり、ドラフターは1秒あたりに得られるその回答数だけを変える。先週24Bが候補リストに入っていなかったなら、その高速版が出ても候補リストに入ることはない。

もしそれが候補リストに入っていたなら、ドラフターはセルフホスティングの説得材料を強め、APIの場合には何の役にも立ちません。この区別ははっきり述べておく価値があります。投機的デコーディングのチェックポイントは、ホスト型エンドポイントを呼び出す人には見えません。なぜなら、それを付加するかどうかを決めるのはサービングスタックだからです。対等に比較できるのは、モデルそのものを、そうでなければルーティング先とする代替案と比べることです——そして、それをたとえば次のようなものと評価しているなら:Qwen3.6-35B-A3B——Liquidが8つのエージェントタスクのうち5つでベンチマーク比較するモデルであり、OrcaRouterはその比較対象を1つのキーの背後でプロバイダーの定価に対する0%のマークアップで提供し、プロバイダー間の自動フェイルオーバーを備えています。当社は現在LFM2.5ファミリーを提供していないため、24B自体はベンダー自身のAPIか自社のGPUから取得する必要があります。当社が提供するのは、2つ目の契約なしで比較のもう一方の側です。

何がこの状況を変えるでしょうか

物語をどれだけ動かすか、その度合いが大きい順に3つ。Liquidからのブログ投稿は枠組みを確定させるだろう——これが推奨される本番構成なのか、研究用リリースなのか。公開されたMac上での測定は、24Bが対象として作られた読者にとって重要な主張を確定させるだろう。そして、温度0での8つのベンチマークデータセットではなく、実トラフィックでの独立した受け入れ実行が、このモデルが実際に売られている雑多で長いツール呼び出しプロンプトに触れても、1ステップあたり5.16トークンが生き残るかどうかを教えてくれるだろう。

それまではリポジトリは公開され、重みはダウンロード可能で、CSVはすぐそこにあり、ベンダー自身のモデルカードは、そのニュースを探すために最後に見るべき場所だ。リリースがそうした状態にあるのは異例だが、それは現実であり、誰もブログ記事を書かなかったからといって、その成果物が現実でなくなるわけではない。

A single-column scoreboard for LFM2.5-24B-A2B-DSpark with six rows: draft parameters 327.7M, block size 9, mean tokens accepted per step 5.16 of a possible 10, throughput 2.38x at concurrency 1 and 1.71x at concurrency 256, target LFM2.5-24B-A2B, and status shipped without a vendor announcement, above a footer reading vendor-reported on NVIDIA B300 with the FP8 target and not independently reproduced, with the OrcaRouter logo composited bottom-right.