Nemotron 3.5 Bolt 74B vs LFM2.5 24B A2B : deux façons de faire tenir un agent dans 24 Go

The interesting thing about N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB and Liquid AI LFM2.5 24B A2B is not that one is three times bigger. It is that both are answers to the same constraint — an agent that runs on a machine you own rather than a machine you rent — and they answer it from opposite directions. One compresses a very large model until it fits. The other is designed small from the first token and spends its budget on being fast rather than on being large.

Les chiffres sont assez proches pour prêter à confusion. Bolt est un checkpoint de 74 milliards de paramètres, avec 9 milliards d’actifs par token, stocké à environ deux bits par poids d’expert, dans un fichier de 24 Go. LFM2.5-24B-A2B est un checkpoint de 24 milliards de paramètres, avec 2,45 milliard d’actifs par token, à précision ordinaire. Les deux sont des mélanges d’experts. Les deux fonctionnent sans réseau. Derrière un argumentaire aux sonorités similaires, presque chaque choix d’ingénierie est différent.

Ce qu'est réellement LFM2.5-24B-A2B

Le checkpoint de Liquid AI est le plus grand et le dernier membre de la famille LFM2.5, et le dernier de cette famille à ne pas encore être disponible. Ses poids ont été mis en ligne sur Hugging Face début octobre et l'entreprise l'a annoncé le 13 octobre 2026 ; il est donc à peu près aussi récent que Bolt et n'a pas non plus accumulé beaucoup de résultats indépendants.

Architecturally it is a specific bet. Forty layers, of which thirty are double-gated short-convolution blocks and ten are grouped-query attention — a mostly-convolutional stack with attention used sparingly, rather than the Mamba-2/attention interleave N​VIDIA uses. Sixty-four experts per MoE block with top-4 routing, which means the model reads four experts per token out of sixty-four. 2.45 billion parameters active per token against 24.0 billion resident. A 128,000-token vocabulary, 36 trillion training tokens, and a 131,072-token context window.

Il est uniquement textuel et réfléchit toujours avant de répondre — la trace de raisonnement n’est pas optionnelle. Liquid le positionne face à des modèles d’une taille et demie supérieure sur les tâches agentiques, et affiche pour étayer cela un score LiveClaw de 48,09 contre 38,19 pour Qwen3.6-35B-A3B. Il s’agit d’une comparaison de fournisseur sur un benchmark sélectionné par le fournisseur, et elle doit être interprétée comme telle, mais le nombre de paramètres actifs dont il se vante est vérifiable dans la configuration du modèle lui-même.

Ce qu'est réellement Bolt

Bolt is not a model that was designed small. It is N​emotron 3.5 Super VL 120B-A12B after N​VIDIA ran Star Elastic over it — a router-guided architecture search that has to satisfy a hard footprint, in this case under 24GB at batch size 1 and 128K context — and then quantised its expert weights to IQ2-XXS at 2.0625 bits per element with quantisation-aware distillation to recover what that cost.

La compression est agressive d'une manière que le nombre de paramètres de Bolts dissimule. Le top-K des experts est passé de 22 chez le parent à 9, soit presque le même top-K que le top-4 de LFM2.5, alors que le modèle porte trois fois plus de paramètres. La tour de vision a ensuite été rattachée depuis le parent, de sorte que Bolt accepte les images et la vidéo là où LFM2.5-24B-A2B n'accepte que du texte, et il a hérité d'une fenêtre de contexte de 256K, soit le double de celle de Liquid.

N​VIDIA's published claim for the compression is a general one worth repeating: for a fixed memory budget, compressing a large model beats training a small one from scratch. Bolt is that claim as an artifact. And N​VIDIA's own framing makes the comparison explicit — its model card states that the G​emma and Q​wen baselines were selected for fitting in 24GB at 4-bit, which is a different route to the same envelope than Bolt's 2-bit weights.

Le contraste des spécifications, les deux côtés sur une seule ligne

• Paramètres totaux et actifs — Bolt : 74 B au total, 9 B actifs par token. LFM2.5-24B-A2B : 24,0 B au total, 2,45 B actifs par token.

• Backbone — Bolt : blocs d'espace d'état Mamba-2 entrelacés avec un mélange d'experts et de l'attention. LFM2.5-24B-A2B : trente blocs de convolution courte à double porte plus dix couches d'attention à requêtes groupées.

• Routage — Bolt : top-9 experts après compression, contre 22 dans le parent. LFM2.5-24B-A2B : 64 experts par bloc, top-4.

• Précision stockée — Bolt : experts IQ2-XXS à 2,0625 bits par élément, couches Mamba en NVFP4, embeddings et sortie en Q8_0. LFM2.5-24B-A2B : poids en pleine précision, avec des variantes GGUF, FP8, ONNX et plusieurs largeurs de bits MLX publiées comme versions sœurs par le fournisseur.

• Contexte — Bolt : jusqu’à 262 144 jetons. LFM2.5-24B-A2B : 131 072 jetons.

• Modalité — Bolt : texte, images et vidéo en entrée, texte en sortie. LFM2.5-24B-A2B : texte en entrée, texte en sortie.

• Licence — Bolt : OpenMDW-1.1. LFM2.5-24B-A2B : lfm1.0, gratuit pour un usage commercial en dessous de 10 M$ de chiffre d’affaires annuel et licence commerciale payante au-delà.

• Intelligence Index — Bolt : 21, mesuré par Artificial Analysis. LFM2.5-24B-A2B : aucun profil Artificial Analysis n'existe pour ce checkpoint, il n'y a donc aucun score indépendant comparable et cet article n'en inventera pas.

• Prix publié — Bolt : aucun, nulle part, et aucun point de terminaison hébergé. LFM2.5-24B-A2B : 0,10 $ par million de jetons d'entrée avec un tarif de cache de 0,05 $, et 1,00 $ par million de jetons de sortie, sur le point de terminaison hébergé propre à Liquid, avec 2 $ de crédit de départ.

Ce dernier rapprochement est le fait le plus percutant de la comparaison, et il va dans le sens auquel la plupart des gens ne s’attendent pas : le modèle avec l’empreinte la plus réduite est celui qui a un prix, et le modèle avec l’empreinte la plus grande est celui qui n’en a pas. On ne peut pas essayer Bolt sans acheter du matériel. LFM2.5 peut être essayé cet après-midi pour une erreur d’arrondi.

La vitesse, et avec quelle attention lire les nombres

Aucun des deux modèles ne dispose d’une mesure indépendante de centre de données. C’est l’état honnête des preuves, et cela limite ce qui peut être affirmé.

Pour LFM2.5-24B-A2B, Liquid annonce 184 tokens par seconde sur un Apple M5 Max et 114 sur un AMD Ryzen AI Max+ 395, et affirme une inférence jusqu’à 1,7× plus rapide que les MoE comparables exécutés en local. Ce sont des chiffres de fournisseur sur du silicium de classe ordinateur portable, que personne d’autre n’a reproduits, et ils ne disent rien de ce que le modèle fait sur un GPU de centre de données avec de nombreuses requêtes simultanées.

For Bolt, N​VIDIA reports 83.99 tokens per second on AIPerf SPEED-Bench-Coding with the LiLiCorr speculative drafter active, on an RTX Spark-class machine. That is also vendor-reported, also unreproduced, and measured on a different benchmark against different silicon, so it cannot be set beside Liquid's 184 and treated as a comparison. The honest statement is that both companies measured their own model on their own preferred hardware and neither number transfers.

Ce qui est structurel plutôt que mesuré : Bolt lit 9 milliards de paramètres par token et LFM2.5 en lit 2,45 milliards. À bande passante mémoire égale, un MoE effectue des lectures approximativement proportionnelles à ses paramètres actifs, et les poids d'experts en basse précision aident en outre en réduisant les octets déplacés par paramètre. LFM2.5 a l'ensemble actif le plus petit, d'un facteur 3,7, et il fonctionne à une précision par poids plus élevée, donc le trafic d'octets par token est l'endroit à examiner. C'est un argument selon lequel le modèle de Liquid devrait être plus rapide, non une mesure qui le prouve.

Lequel télécharger ?

La distinction ici n'oppose pas des capacités les unes aux autres, car ils ne tentent pas d'accomplir la même tâche. Bolt est un agent multimodal qui lit des captures d'écran et pilote un navigateur à l'échelle 74B, compressé jusqu'à tenir. LFM2.5-24B-A2B est un agent textuel conçu pour répondre rapidement sur une machine totalement dépourvue de GPU dédié.

Choisissez Bolt lorsque l'agent doit voir — WebArena, des PDF, des images vidéo — ou lorsque la charge de travail s'exécute hors ligne sur une machine déjà équipée d'un accélérateur de classe Blackwell, et lorsque vous acceptez d'être la première personne à mesurer son débit. Choisissez LFM2.5-24B-A2B lorsque la tâche est textuelle, que la machine est un ordinateur portable, que la latence importe plus que la profondeur de raisonnement, et que tout l'intérêt est que le modèle tient dans la mémoire unifiée aux côtés du reste de vos applications.

Les deux éléments qui changeraient la réponse : un benchmark indépendant exécuté sur les deux, et un hébergement publié pour Bolt. Ni l'un ni l'autre n'existe aujourd'hui.

Les exécuter à côté d’un modèle hébergé

Both of these checkpoints are, by design, things you run yourself. Neither is on our catalogue — the catalogue was checked rather than assumed, and neither the N​emotron nor the LFM2.5 families appear in it — so this section is not a pitch for hosting either one. It is a note about what sits beside them.

Un agent local 24B sur un ordinateur portable prend en charge le travail de routine : le routage, la synthèse, le formatage des appels d'outils, les quatre-vingt-dix pour cent des tours qui n'ont jamais eu besoin d'un grand modèle. Les tours qui en ont besoin doivent tout de même aller quelque part, et c'est là qu'un routeur gagne sa place. OrcaRouter expose plus de 200 modèles derrière une seule clé, au prix catalogue du fournisseur, avec 0 % de marge ajoutée, de sorte qu'une baisse de prix d'un fournisseur est effective de notre côté le jour même, et son DSL de routage vous permet de décrire une composition — un modèle bon marché pour la première passe, une règle d'escalade, un repli — comme un seul appel plutôt que comme du code applicatif. Le basculement automatique entre fournisseurs signifie qu'un problème de capacité en amont est réessayé plutôt que signalé à vos utilisateurs.

Pour quiconque développe sur un exécuteur local, cette division du travail explique pourquoi un petit checkpoint reste viable : le petit modèle traite le volume, et l’on atteint le modèle coûteux sans second contrat ni second SDK.

Qu'est-ce qui réglerait ça

Two measurements are missing and both are cheap for someone with the hardware. The first is a like-for-like throughput and latency run: LFM2.5-24B-A2B against the 24GB Bolt checkpoint, same harness, same batch sizes, same context lengths, on the same accelerator. Nobody has run it. The second is a third-party evaluation of LFM2.5-24B-A2B on the benchmarks N​VIDIA used, so that the LiveClaw claim and the Bolt table can be read against each other instead of being quoted in parallel from two different marketing pages.

D'ici là, le choix relève d'une décision de budget mémoire plutôt que d'une décision de benchmark. Un modèle exige que vous possédiez un GPU doté de 24 Go de puissance de calcul de classe Blackwell et vous offre en retour la vision et 74B de raisonnement distillé. L'autre se contente d'un ordinateur portable, coûte quelques centimes par heure pour l'essayer sur les serveurs de quelqu'un d'autre, et renonce à la vision et à la moitié de la fenêtre de contexte pour y parvenir.

Ce que les chiffres ne peuvent pas vous dire, c'est si quelque chose a mal tourné sur le terrain : les incidents d'IA documentés et les défaillances d'agents concernant les modèles de cette classe sont recensés dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, sa gravité, son niveau de confiance et son indicateur de contestation.