Nemotron 3.5 Bolt 24GB vs LFM2.5 24B-A2B：24GBにエージェントを収める2つの方法

Here is a problem for anyone comparing these two. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB and LFM2.5-24B-A2B both published benchmark tables that include the same three baseline models — Qwen3.6 35B-A3B, Gemma 4 26B-A4B, and N​emotron 3.5 Lightning 30B-A3B — and the two tables disagree about what those baselines score. On PinchBench, N​VIDIA lists Qwen3.6 at 88.07 and Lightning at 83.43. Liquid AI lists the same two models at 89.93 and 84.20. Same benchmark, same named entries, different numbers, both published this month.

それはスキャンダルではない。自分でハーネスを実行するとはそういうことであり、この比較が直接対決のスコアではなく、検証可能な事柄を中心に書かれている理由でもある。この2つのモデルは、ある意味で、同じ問いへの答えを両端から解いたものでもある。

両方のモデルがそれに沿って構築された制約

どちらも24ギガバイトのモデルだ。どちらの研究室も、まさにその言葉でそう述べているわけではなく、その数字の出方はそれぞれの場合で異なっている。

Bolt is 74B total with 9B active. N​VIDIA's Star Elastic architecture search was given one budget to satisfy — below 24GB at batch size 1 and 128K context — and the resulting checkpoint is what that constraint produced, with expert weights at 2.0625 bits per element. The memory limit is the design input, and the parameter count is the output.

LFM2.5-24B-A2Bは合計24Bでアクティブが2.45B、そしてメモリはアーキテクチャではなく、選んだファイルの関数である。公開されているGGUFリポジトリでは、Q4_K_Mが14.53GB、量子化対応のQAD-Q4_0が13.58GB、Q5_K_Mが17.03GB、Q6_Kが19.69GB、Q8_0が25.49GBで提供されている。名前に含まれる24はパラメータ数であり、フットプリントではない。フットプリントとはメニューのことだ。

その区別が多くを決める。Boltには推論用の出荷構成がちょうど1つしかなく、モデルが量子化済みで届くため、量子化するものは何もない。LFM2.5-24B-A2Bには、ノートPCでは実行しないであろう47.96GBのネイティブBF16チェックポイントと、実行するであろうコミュニティ製およびファーストパーティ製のビルド群があり、品質はあなたの判断に委ねられている。

それぞれが実際に何でできているのか

• パラメータ — Bolt: 合計74B、トークンあたり9Bがアクティブ。LFM2.5-24B-A2B: 合計24B、トークンあたり2.45Bがアクティブ。

• アーキテクチャ — Bolt：Mamba-2 状態空間層を Mixture-of-Experts とアテンションと交互に配置し、LatentMoE ルーティング、さらに C-RADIO v4-H 視覚エンコーダーを備える。LFM2.5-24B-A2B：40層 — 30個の二重ゲート付きショートコンボリューションブロックと10個のグループ化クエリ・アテンションブロック — 各 MoE ブロックに64エキスパート、トップ4ルーティング。

• Provenance — Bolt: compressed from N​emotron 3.5 Super VL 120B-A12B by router-guided architecture search, then quantised with quantisation-aware distillation. LFM2.5-24B-A2B: trained directly, from a 33-trillion-token pre-training run through a two-phase mid-training stage and a five-stage post-training pipeline that ends in reinforcement learning inside agent harnesses.

• 入力 — Bolt: テキスト、画像、動画を入力し、テキストを出力。LFM2.5-24B-A2B: テキストのみ。これが両者を分ける最も困難な境界線であり、チューニングの違いではなくアーキテクチャ上の違いである。

• コンテキスト — Bolt: 262,144トークン。LFM2.5-24B-A2B: 131,072トークン。前世代の32,768から倍増し、語彙も65,000から128,000へ拡大。

• 言語 — LFM2.5-24B-A2B はアラビア語、韓国語、タイ語、ヒンディー語、ロシア語を含む 16 言語を挙げています。Bolt のモデルカードは英語とコーディング言語を主要なものとして挙げ、スペイン語、フランス語、ドイツ語、イタリア語、日本語もサポートされています。

• ライセンス — Bolt: OpenMDW-1.1。LFM2.5-24B-A2B: LFM Open License 1.0。どちらも Apache 2.0 ではなく、どちらも商用利用には十分寛容でありながら、弁護士に10分相談する価値があるほど馴染みの薄いライセンスだ。

• リリース時のランタイム対応 — 両モデルとも llama.cpp、vLLM、およびそれぞれのエッジフォーマットを挙げている。LFM2.5-24B-A2B はさらに MLX と ONNX のビルドを提供し、SGLang も挙げている。

ベンチマーク表を注意深く読んでください。

Bolt's vendor table hands it wins on Terminal-Bench 2.1 at 50.98 against 44.38 for Qwen3.6 35B-A3B and 37.22 for Gemma 4 26B-A4B, on BrowseComp at 66.75 against 48.74, and on GPQA Diamond at 86.43 against 83.40. It also prints the rows it loses: AA-Omniscience accuracy at 16.90 against G​emma's 22.17, and PinchBench at 87.82 against Q​wen's 88.07. N​VIDIA chose the peer group as models that fit in 24GB at four-bit — a set defined by the constraint Bolt was engineered against.

Liquid AIのLFM2.5-24B-A2Bに関する表は、LiveClawで48.09対Qwen3.6 35B-A3Bの38.19、AutomationBenchで27.69対8.72、ToolSandboxで80.71対75.02を報告している。一方で、GPQA Diamondでは74.42、HLEでは7.40、SWE-Bench Verifiedでは51.00をより大規模なモデルに譲っている。そのAA-Omniscienceの数値は負で、マイナス24.90であり、これは同ベンチマークの採点において、正確さだけで評価されるのではなく、自信を持った誤答に対してペナルティが課されることを意味する。

両方の表は、数値が異なる箇所でも結果の傾向について一致している。各モデルは、その規模に対してエージェント的なツール使用に強く、知識重視の想起は弱い。どちらにもArtificial Analysisのエントリはなく、ホスト型エンドポイントもない。そのため、決着をつける第三者の数値はなく、両方をダウンロードしなければ自分のトラフィックでA/Bテストする方法もない。

One independent figure does exist for Bolt: an Intelligence Index of 21, fourth of 67 models in its class, on the same panel that scores the dense models it competes with. Liquid AI reports 184 tokens per second on an Apple M5 Max for LFM2.5-24B-A2B, and N​VIDIA reports 83.99 tokens per second for Bolt on an RTX Spark machine running llama.cpp with its LiLiCorr drafter attached. Those two speeds are the most useful numbers either lab published, and they are not comparable — different hardware, different formats, different drafter setups.

それぞれがどのマシンを欲しがっているか

ハードウェアの事情は、24GBという枠組みが示唆するほどには重なっていない。

Bolt is built for N​VIDIA's own edge stack: RTX Spark laptops arriving 16 October, GeForce RTX PCs, DGX Spark, DGX Station and RTX PRO workstations, with the quantised checkpoint for llama.cpp on Spark and vLLM on DGX, and the BF16 checkpoint named for Ampere, Hopper and Blackwell. The drafter is a separate 1.13B download, and the reference vLLM recipe pins a nightly build, a kernel package from a vendor repository, and a served sequence count of one.

LFM2.5-24B-A2Bは、紙の上では2つの中でよりポータブルであり、そう明言している。Apple Silicon向けのMLXビルド、クロスプラットフォームランタイム向けのONNX、CPU推論向けのGGUF、GPUサービング向けのFP8、そして近日公開とされているDSparkドラフターだ。13.58GBの量子化ビルドは、Boltの単一の22.02GBファイルとその1.73GBのビジョンプロジェクターより、24GBカード上でより多くの余裕を残す。

あの最後の算術こそが、実用上の核心だ。Bolt の重みとプロジェクターは、モデルの名前の由来となった 24GB のうち 23.75GB を消費し、残りをコンテキストと並行処理が奪い合うことになる。LFM2.5-24B-A2B を Q4 または QAD-Q4 で動かす場合、同じ目的のために約 10 ギガバイトが残る。あなたのワークロードが、大規模な検索コンテキストを伴う長期的なエージェント作業であるなら、アクティブ側と保存側のフットプリントがより小さいことは、負け惜しみの慰めではない。

ルーティング層の位置づけ

どちらのモデルも当社が提供しているものではなく、取り繕うのではなく率直にそう言う価値がある。OrcaRouterのカタログにはBoltもLFM2.5-24B-A2Bも載っていないため、ここにはどちらのエンドポイントも、比較できる価格も存在しない。両者に共通するのは、それらがスタックのローカル側の半分だということであり、ローカル側の半分が単独でいることはほとんどない——目の前のマシンで24GBモデルを動かすエージェントでも、タスクがそれを超えると、より大きな何かに手を伸ばす。

それは私たちが担当する部分です。プロバイダーの定価で、200以上のホスト型モデルにまたがる1つのキーを利用できます。追加のマークアップはなく、自動フェイルオーバーにより、リクエストの途中でプロバイダーが不安定になっても、待機している人にそのまま見せるのではなく再試行され、さらにルーティングDSLは、フォールバックチェーンをアプリケーションコードではなく設定として表現します。これら2つのチェックポイントのどちらを選ぶかは、あなた自身のハードウェアとあなた自身のハーネスで決まります。そして、その周辺のエスカレーション、サイドクエリ、評価は、ゲートウェイを経由する部分です。

共有スコアボードなしでどう選ぶか

四つの質問があれば、どんな表よりも早く決着がつく。

エージェントは見る必要があるのか？ スクリーンショット、PDF、動画を読むのであれば、二者のうちそれができるのはBoltだけで、問いはそこで終わる。テキストとツール呼び出しで動くのであれば、マルチモーダル機能は無駄に背負っている重りでしかない。

1ターンに実際どれだけのコンテキストが必要なのか？ リポジトリ規模や文書規模の作業では、25万トークン対131,072トークンは現実的な違いであり、Boltの圧縮が、どのベンチマークの列にも現れない何かをもたらした唯一の側面である。

What is the machine? A discrete N​VIDIA GPU with 24GB and a tolerance for a pinned nightly vLLM favours Bolt. A Mac, or a mixed fleet where the same build has to run in more than one place, favours the model that ships MLX and ONNX next to its GGUF.

そして、あなたは誰の数字を信じるのか。両方のラボは、自社のモデルがほとんどの行で勝利する表を公開している。誠実な立場は、それぞれが自ら選んだピアグループの中では強いということ、同一のベースラインに関する2つの表の不一致がハーネスのばらつきについての注意喚起であること、そしてモデルを開発したラボによるベンチマーク数値は、能力についての主張であって、その測定値ではないということだ。

手短に言えば

Bolt buys you sight, a quarter-million-token context and the tightest compression anyone has shipped at this size, and charges for it in two-and-a-half gigabytes of headroom and a mandatory N​VIDIA recipe. LFM2.5-24B-A2B buys you portability, a smaller working set and sixteen languages, and charges for it in modality and context.

どちらも2026年10月に4日違いでリリースされた——LFM2.5-24B-A2Bは10月13日、Boltは10月15日——つまり、どちらにもまだ独立した実績がなく、共通のハードウェア上で互いに比較測定されたこともなく、勝者を主張する人はベンチマークではなくベンダーの表を読んでいるだけだ。両方をダウンロードし、自分の評価セットを実行し、仕事を完了する方を残せ。それが、この2つのラボのどちらかによってすでに公開されているものではない、ここで唯一の比較だ。

スコアボードが測定するものと、導入が実際に満たすものとの間にあるこの隔たりこそが、この記録が重要である理由です。このクラスのモデルをめぐる、文書化されたAIの障害やエージェントのインシデントは、the OrcaRouter AI Incident Archiveに集められており、各エントリには独自の情報源、重大度、信頼度グレード、異議ありフラグが付いています。