Nemotron 3.5 Bolt 74B vs LFM2.5 24B A2B: Dos formas de hacer caber un agente en 24 GB

The interesting thing about N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB and Liquid AI LFM2.5 24B A2B is not that one is three times bigger. It is that both are answers to the same constraint — an agent that runs on a machine you own rather than a machine you rent — and they answer it from opposite directions. One compresses a very large model until it fits. The other is designed small from the first token and spends its budget on being fast rather than on being large.

Los números son lo bastante cercanos como para confundir. Bolt es un checkpoint de 74 mil millones de parámetros con 9 mil millones activos por token, almacenado a aproximadamente dos bits por peso de experto, en un archivo de 24 GB. LFM2.5-24B-A2B es un checkpoint de 24 mil millones de parámetros con 2,45 mil millones activos por token, a precisión ordinaria. Ambos son mezclas de expertos. Ambos funcionan sin red. Detrás del argumento que suena similar, casi todas las decisiones de ingeniería son diferentes.

Qué es realmente LFM2.5-24B-A2B

El checkpoint de Liquid AI es el miembro más grande y final de la familia LFM2.5, y el último de esa familia que aún queda por lanzar. Sus pesos se publicaron en Hugging Face a principios de octubre y la empresa lo anunció el 13 de octubre de 2026, así que es más o menos tan nuevo como Bolt y tampoco ha acumulado muchos resultados independientes.

Architecturally it is a specific bet. Forty layers, of which thirty are double-gated short-convolution blocks and ten are grouped-query attention — a mostly-convolutional stack with attention used sparingly, rather than the Mamba-2/attention interleave N​VIDIA uses. Sixty-four experts per MoE block with top-4 routing, which means the model reads four experts per token out of sixty-four. 2.45 billion parameters active per token against 24.0 billion resident. A 128,000-token vocabulary, 36 trillion training tokens, and a 131,072-token context window.

Es solo texto, y siempre piensa antes de responder: el rastro de razonamiento no es opcional. Liquid lo posiciona frente a modelos una vez y media más grandes en tareas agénticas, y registra una puntuación de LiveClaw de 48.09 frente a 38.19 de Qwen3.6-35B-A3B para respaldarlo. Esa es una comparación de proveedor en un benchmark elegido por el proveedor y debe interpretarse como tal, pero el recuento de parámetros activos del que presume se puede comprobar en la propia configuración del modelo.

Lo que Bolt realmente es

Bolt is not a model that was designed small. It is N​emotron 3.5 Super VL 120B-A12B after N​VIDIA ran Star Elastic over it — a router-guided architecture search that has to satisfy a hard footprint, in this case under 24GB at batch size 1 and 128K context — and then quantised its expert weights to IQ2-XXS at 2.0625 bits per element with quantisation-aware distillation to recover what that cost.

La compresión es agresiva de una manera que el recuento de parámetros de Bolts oculta. El top-K de expertos bajó de 22 en el modelo padre a 9, que es casi el mismo top-K que el top-4 de LFM2.5 a pesar de que el modelo tiene el triple de parámetros. La torre de visión se volvió a conectar después desde el modelo padre, así que Bolt acepta imágenes y video, mientras que LFM2.5-24B-A2B solo acepta texto, y heredó una ventana de contexto de 256K, el doble de la de Liquid.

N​VIDIA's published claim for the compression is a general one worth repeating: for a fixed memory budget, compressing a large model beats training a small one from scratch. Bolt is that claim as an artifact. And N​VIDIA's own framing makes the comparison explicit — its model card states that the G​emma and Q​wen baselines were selected for fitting in 24GB at 4-bit, which is a different route to the same envelope than Bolt's 2-bit weights.

El contraste de especificaciones, ambos lados en una sola línea

• Parámetros totales y activos — Bolt: 74B en total, 9B activos por token. LFM2.5-24B-A2B: 24.0B en total, 2.45B activos por token.

• Arquitectura principal — Bolt: bloques de espacio de estados Mamba-2 intercalados con mezcla de expertos y atención. LFM2.5-24B-A2B: treinta bloques de convolución corta con doble compuerta más diez capas de atención con consultas agrupadas.

• Enrutamiento — Bolt: los 9 mejores expertos tras la compresión, frente a 22 en el modelo padre. LFM2.5-24B-A2B: 64 expertos por bloque, top-4.

• Precisión almacenada — Bolt: expertos IQ2-XXS a 2,0625 bits por elemento, capas Mamba en NVFP4, embeddings y salida en Q8_0. LFM2.5-24B-A2B: pesos de precisión completa, con GGUF, FP8, ONNX y varios anchos de bits de MLX publicados como hermanos por el proveedor.

• Contexto — Bolt: hasta 262.144 tokens. LFM2.5-24B-A2B: 131.072 tokens.

• Modalidad — Bolt: entrada de texto, imágenes y vídeo, salida de texto. LFM2.5-24B-A2B: entrada de texto, salida de texto.

• Licencia — Bolt: OpenMDW-1.1. LFM2.5-24B-A2B: lfm1.0, gratuita para uso comercial por debajo de 10 M$ de ingresos anuales y con licencia comercial de pago por encima de esa cifra.

• Índice de Inteligencia — Bolt: 21, medido por Artificial Analysis. LFM2.5-24B-A2B: no existe un perfil de Artificial Analysis para este checkpoint, por lo que no hay ninguna puntuación independiente comparable y este artículo no inventará una.

• Precio publicado — Bolt: ninguno en ninguna parte, y ningún endpoint alojado. LFM2.5-24B-A2B: $0.10 por millón de tokens de entrada con una tarifa de caché de $0.05, y $1.00 por millón de salida, en el endpoint alojado propio de Liquid, con $2 de crédito inicial.

Ese último emparejamiento es el hecho más contundente de la comparación, y va en la dirección que la mayoría de la gente no espera: el modelo con la huella más pequeña es el que tiene un precio, y el modelo con la huella más grande es el que no lo tiene. Bolt no se puede probar sin comprar hardware. LFM2.5 se puede probar esta tarde por un error de redondeo.

Velocidad, y con qué cuidado leer los números.

Ninguno de los dos modelos cuenta con una medición independiente del centro de datos. Este es el estado honesto de la evidencia y limita lo que se puede decir.

Para LFM2.5-24B-A2B, Liquid informa 184 tokens por segundo en un Apple M5 Max y 114 en un AMD Ryzen AI Max+ 395, y afirma una inferencia hasta 1,7× más rápida que la de MoEs comparables en el dispositivo. Esas son cifras del fabricante en silicio de clase portátil, no reproducidas por nadie más, y no dicen nada sobre lo que hace el modelo en una GPU de centro de datos con muchas solicitudes concurrentes.

For Bolt, N​VIDIA reports 83.99 tokens per second on AIPerf SPEED-Bench-Coding with the LiLiCorr speculative drafter active, on an RTX Spark-class machine. That is also vendor-reported, also unreproduced, and measured on a different benchmark against different silicon, so it cannot be set beside Liquid's 184 and treated as a comparison. The honest statement is that both companies measured their own model on their own preferred hardware and neither number transfers.

Lo que es estructural en lugar de medido: Bolt lee 9 mil millones de parámetros por token y LFM2.5 lee 2.45 mil millones. A igual ancho de banda de memoria, un MoE lee aproximadamente en proporción a sus parámetros activos, y los pesos de expertos de baja precisión ayudan además a reducir los bytes movidos por parámetro. LFM2.5 tiene el conjunto activo más pequeño por un factor de 3.7, y se ejecuta a mayor precisión por peso, así que el tráfico de bytes por token es el lugar donde hay que mirar. Eso es un argumento de que el modelo de Liquid debería ser más rápido, no una medición de que lo sea.

¿Cuál descargar?

La división aquí no es capacidad frente a capacidad, porque no intentan la misma tarea. Bolt es un agente multimodal que lee capturas de pantalla y controla un navegador a escala de 74B, comprimido hasta que encaja. LFM2.5-24B-A2B es un agente de texto creado para responder rápido en una máquina sin ninguna GPU discreta.

Recurre a Bolt cuando el agente tenga que ver —WebArena, PDFs, fotogramas de vídeo— o cuando la carga de trabajo se ejecute sin conexión en una máquina que ya tenga incorporado un acelerador de clase Blackwell, y cuando aceptes que serás la primera persona que mida su rendimiento. Recurre a LFM2.5-24B-A2B cuando la tarea sea de texto, la máquina sea un portátil, la latencia importe más que la profundidad de razonamiento y el objetivo sea precisamente que el modelo quepa en la memoria unificada junto con el resto de tus aplicaciones.

Las dos cosas que cambiarían la respuesta: una prueba comparativa independiente realizada en ambos, y cualquier alojamiento publicado para Bolt. Ninguna existe hoy.

Ejecutándolos junto a un modelo alojado

Both of these checkpoints are, by design, things you run yourself. Neither is on our catalogue — the catalogue was checked rather than assumed, and neither the N​emotron nor the LFM2.5 families appear in it — so this section is not a pitch for hosting either one. It is a note about what sits beside them.

Un agente local de 24B en un portátil se encarga del trabajo rutinario: el enrutamiento, los resúmenes, el formateo de llamadas a herramientas, el noventa por ciento de los turnos que nunca necesitaron un modelo grande. Los turnos que sí necesitan uno igual tienen que ir a alguna parte, y ahí es donde un router se gana su sitio. OrcaRouter expone más de 200 modelos tras una sola clave al precio de lista del proveedor con un 0 % de recargo añadido, así que una bajada de precio de un proveedor está activa en nuestro lado el mismo día, y su DSL de enrutamiento te permite describir una composición — un modelo barato para la primera pasada, una regla de escalado, un fallback — como una sola llamada en lugar de como código de aplicación. La conmutación automática por error entre proveedores hace que un problema de capacidad en el origen se reintente en lugar de mostrarse a tus usuarios.

Para cualquiera que construya sobre un ejecutor local, esa división del trabajo es la razón por la que un checkpoint pequeño sigue siendo viable: el modelo pequeño se encarga del volumen, y se accede al modelo costoso sin un segundo contrato ni un segundo SDK.

¿Qué lo resolvería?

Two measurements are missing and both are cheap for someone with the hardware. The first is a like-for-like throughput and latency run: LFM2.5-24B-A2B against the 24GB Bolt checkpoint, same harness, same batch sizes, same context lengths, on the same accelerator. Nobody has run it. The second is a third-party evaluation of LFM2.5-24B-A2B on the benchmarks N​VIDIA used, so that the LiveClaw claim and the Bolt table can be read against each other instead of being quoted in parallel from two different marketing pages.

Hasta entonces, la elección es una decisión de presupuesto de memoria más que una decisión de benchmark. Un modelo te pide tener una GPU con 24 GB de cómputo de clase Blackwell y te devuelve visión y 74B de razonamiento destilado. El otro requiere solo un portátil, cuesta centavos por hora probarlo en los servidores de otro y renuncia a la visión y a la mitad de la ventana de contexto para llegar hasta ahí.

Lo que los números no pueden decirte es si algo de esto ha salido mal sobre el terreno: los incidentes de IA documentados y los fallos de agentes en torno a los modelos de esta clase se recopilan en el Archivo de Incidentes de IA de OrcaRouter, donde cada entrada incluye sus propias fuentes, su gravedad, su grado de confianza y su indicador de disputa.