Nemotron 3.5 Bolt 74B vs LFM2.5 24B A2B：24GBにエージェントを収める2つの方法

The interesting thing about N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB and Liquid AI LFM2.5 24B A2B is not that one is three times bigger. It is that both are answers to the same constraint — an agent that runs on a machine you own rather than a machine you rent — and they answer it from opposite directions. One compresses a very large model until it fits. The other is designed small from the first token and spends its budget on being fast rather than on being large.

数字は紛らわしいほど近い。Boltは740億パラメータのチェックポイントで、トークンあたり90億がアクティブ、エキスパート重みあたりおよそ2ビットで保存され、24GBのファイルに収まる。LFM2.5-24B-A2Bは240億パラメータのチェックポイントで、トークンあたり24.5億がアクティブ、通常精度。どちらも混合エキスパートだ。どちらもネットワークなしで動作する。似た響きの売り文句の裏で、ほぼすべてのエンジニアリング上の選択が異なっている。

LFM2.5-24B-A2Bとは実際に何なのか

Liquid AIのチェックポイントは、LFM2.5ファミリーの中で最大かつ最後のメンバーであり、そのファミリーでまだ提供されていない最後のものでもある。その重みは10月上旬にHugging Faceで公開され、同社は2026年10月13日にそれを発表した。したがって、Boltとほぼ同じくらい新しく、独立した結果もあまり蓄積されていない。

Architecturally it is a specific bet. Forty layers, of which thirty are double-gated short-convolution blocks and ten are grouped-query attention — a mostly-convolutional stack with attention used sparingly, rather than the Mamba-2/attention interleave N​VIDIA uses. Sixty-four experts per MoE block with top-4 routing, which means the model reads four experts per token out of sixty-four. 2.45 billion parameters active per token against 24.0 billion resident. A 128,000-token vocabulary, 36 trillion training tokens, and a 131,072-token context window.

テキスト専用で、答える前に必ず考える——推論トレースは任意ではない。Liquidは、エージェントタスクにおいて、それより1.5倍大きいモデル群と比較し、それを裏付けるためにLiveClawスコア48.09をQwen3.6-35B-A3Bの38.19に対して記録している。これはベンダーが選んだベンチマークにおけるベンダー比較であり、そのように読むべきだが、それが誇っているアクティブパラメータ数はモデル自身の設定で確認できる。

Boltとは実際に何なのか

Bolt is not a model that was designed small. It is N​emotron 3.5 Super VL 120B-A12B after N​VIDIA ran Star Elastic over it — a router-guided architecture search that has to satisfy a hard footprint, in this case under 24GB at batch size 1 and 128K context — and then quantised its expert weights to IQ2-XXS at 2.0625 bits per element with quantisation-aware distillation to recover what that cost.

圧縮は、Boltsのパラメータ数からは見えないほどアグレッシブだ。エキスパートtop-Kは親モデルの22から9に下がり、これはモデルが3倍のパラメータを抱えているにもかかわらず、LFM2.5のtop-4とほぼ同じtop-Kだ。ビジョンタワーは後から親モデルから再接続されたため、Boltは画像と動画を受け付けるが、LFM2.5-24B-A2Bはテキストのみを受け付ける。また、Liquidの2倍となる256Kコンテキストウィンドウを継承した。

N​VIDIA's published claim for the compression is a general one worth repeating: for a fixed memory budget, compressing a large model beats training a small one from scratch. Bolt is that claim as an artifact. And N​VIDIA's own framing makes the comparison explicit — its model card states that the G​emma and Q​wen baselines were selected for fitting in 24GB at 4-bit, which is a different route to the same envelope than Bolt's 2-bit weights.

仕様の対比、両方を1行に

• 総パラメータ数とアクティブパラメータ数 — Bolt: 総計74B、トークンあたり9Bがアクティブ。LFM2.5-24B-A2B: 総計24.0B、トークンあたり2.45Bがアクティブ。

• バックボーン — Bolt: Mamba-2状態空間ブロックをMixture-of-Expertsおよびアテンションと交互配置。LFM2.5-24B-A2B: 30個の二重ゲート付きショートコンボリューションブロックに加え、10層のグループ化クエリアテンション層。

• ルーティング — Bolt: 圧縮後は上位9エキスパート、親モデルでは22から削減。LFM2.5-24B-A2B: ブロックあたり64エキスパート、上位4。

• 保存精度 — Bolt: IQ2-XXS エキスパートは要素あたり2.0625ビット、Mamba 層は NVFP4、埋め込みと出力は Q8_0。LFM2.5-24B-A2B: フル精度の重みで、GGUF、FP8、ONNX、および複数の MLX ビット幅がベンダーによって兄弟モデルとして公開されています。

• コンテキスト — Bolt: 最大262,144トークン。LFM2.5-24B-A2B: 131,072トークン。

• モダリティ — Bolt: テキスト、画像、動画を入力、テキストを出力。LFM2.5-24B-A2B: テキストを入力、テキストを出力。

• ライセンス — Bolt: OpenMDW-1.1。LFM2.5-24B-A2B: lfm1.0、年間収益1,000万ドル未満は商用利用無料、それを超える場合は有償の商用ライセンス。

• Intelligence Index — Bolt: 21（Artificial Analysisによる測定）。LFM2.5-24B-A2B: このチェックポイントにはArtificial Analysisのプロファイルが存在しないため、比較可能な独立したスコアはなく、本記事がそれをでっち上げることはない。

• 公開価格 — Bolt: どこにも価格がなく、ホスト型エンドポイントもなし。LFM2.5-24B-A2B: 100万入力トークンあたり$0.10、キャッシュ利用時は$0.05、100万出力トークンあたり$1.00で、Liquid自身のホスト型エンドポイント上、開始クレジット$2付き。

その最後の組み合わせは、この比較の中で最も際立つ事実であり、しかも多くの人が予想しない方向を示している。フットプリントが小さい方のモデルが有料で、大きい方のモデルは無料なのだ。Boltはハードウェアを購入しなければ試せない。LFM2.5は今日の午後、誤差ほどの金額で試せる。

速度と、数値をどれだけ注意深く読むか

どちらのモデルにも独立したデータセンター測定はない。これが証拠の正直な現状であり、言える内容を制約している。

LFM2.5-24B-A2Bについて、LiquidはApple M5 Maxで毎秒184トークン、AMD Ryzen AI Max+ 395で114トークンと報告しており、オンデバイスで同等のMoEより最大1.7倍高速な推論を実現すると主張している。これらはラップトップクラスのシリコンに関するベンダー公表値であり、他者による再現はなく、多数の同時リクエストを処理するデータセンターGPU上でこのモデルがどう振る舞うかについては何も語っていない。

For Bolt, N​VIDIA reports 83.99 tokens per second on AIPerf SPEED-Bench-Coding with the LiLiCorr speculative drafter active, on an RTX Spark-class machine. That is also vendor-reported, also unreproduced, and measured on a different benchmark against different silicon, so it cannot be set beside Liquid's 184 and treated as a comparison. The honest statement is that both companies measured their own model on their own preferred hardware and neither number transfers.

測定値ではなく構造上の話: Bolt はトークンあたり 90 億パラメータを読み取り、LFM2.5 は 24.5 億を読み取る。メモリ帯域幅が等しい場合、MoE はおおよそアクティブパラメータに比例して読み取り、低ビットのエキスパート重みはパラメータあたりの移動バイト数を縮小することでさらに役立つ。LFM2.5 はアクティブ集合が 3.7 分の 1 とより小さく、しかも重みあたりはより高い精度で動作している。したがって、トークンあたりのバイトトラフィックに注目すべきだ。これは Liquid のモデルのほうが速いはずだという論拠であって、実際に速いという測定結果ではない。

どれをダウンロードすればいいですか？

ここでの違いは、能力対能力の比較ではない。なぜなら、両者は同じタスクを試みているわけではないからだ。Boltは、スクリーンショットを読み取りブラウザを操作するマルチモーダルエージェントで、74Bスケールで、収まるまで圧縮されている。LFM2.5-24B-A2Bは、ディスクリートGPUを一切搭載しないマシン上で高速に応答するために作られたテキストエージェントだ。

エージェントが「見る」必要があるとき——WebArena、PDF、動画フレーム——や、ワークロードがBlackwellクラスのアクセラレータをすでに搭載したマシン上でオフライン実行されるとき、そしてそのスループットを最初に測定するのは自分だと受け入れるときは、Boltを選ぼう。タスクがテキストで、マシンがラップトップで、推論の深さよりもレイテンシが重要で、モデルが他のアプリケーションと一緒にユニファイドメモリに収まることが肝心なときは、LFM2.5-24B-A2Bを選ぼう。

答えを変えるであろう2つのこと：両方で実行された独立系ベンチマークと、Bolt向けの公開ホスティング。現時点ではどちらも存在しない。

ホスト型モデルの隣でそれらを実行する

Both of these checkpoints are, by design, things you run yourself. Neither is on our catalogue — the catalogue was checked rather than assumed, and neither the N​emotron nor the LFM2.5 families appear in it — so this section is not a pitch for hosting either one. It is a note about what sits beside them.

ノートPC上のローカル24Bエージェントが定型作業——ルーティング、要約、ツール呼び出しのフォーマット、大規模モデルを必要としなかった9割のターン——を処理する。大規模モデルを必要とするターンは依然としてどこかに送られる必要があり、そこがルーターの出番だ。OrcaRouterは200以上のモデルを1つのキーで、プロバイダーの定価に0パーセントの上乗せを加えた価格で提供している。そのため、ベンダーの値下げはその日のうちにこちら側でも反映され、そのルーティングDSLでは、構成を記述できる——最初のパス向けの安価なモデル、エスカレーションルール、フォールバック——を、アプリケーションコードではなく1回の呼び出しとして。プロバイダー間の自動フェイルオーバーにより、上流の容量問題はユーザーに表面化されるのではなく再試行される。

ローカルエグゼキュータ上で構築する人にとって、この役割分担こそが、小さなチェックポイントが現実的であり続ける理由だ。小さいモデルが量をこなし、高価なモデルには、二つ目の契約や二つ目のSDKなしでたどり着ける。

何がそれを決着させるのか

Two measurements are missing and both are cheap for someone with the hardware. The first is a like-for-like throughput and latency run: LFM2.5-24B-A2B against the 24GB Bolt checkpoint, same harness, same batch sizes, same context lengths, on the same accelerator. Nobody has run it. The second is a third-party evaluation of LFM2.5-24B-A2B on the benchmarks N​VIDIA used, so that the LiveClaw claim and the Bolt table can be read against each other instead of being quoted in parallel from two different marketing pages.

それまでは、選択はベンチマークの判断ではなく、メモリ予算の判断だ。一方のモデルは、Blackwellクラスの演算性能を備えた24GBのGPUを自分で所有することを求め、その見返りに視覚と74Bの蒸留された推論を提供する。もう一方はノートPCを求めるだけで、他人のサーバー上で試すのに1時間あたり数セントしかかからず、その代わりに視覚とコンテキストウィンドウの半分を諦めることになる。

数字からは分からないのは、それが現場で何か問題を起こしていないかどうかだ。このクラスのモデルに関する、記録されたAIインシデントやエージェントの障害は、OrcaRouter AIインシデントアーカイブに集められており、各項目にはそれぞれの情報源、深刻度、信頼度グレード、異議ありフラグが付されている。