Una tarjeta de título generada que dice NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB vs NVIDIA Nemotron 3.5 Lightning 30B-A3B, con paneles que indican Terminal-Bench 2.1 50,98 frente a 23,46, BrowseComp 66,75 frente a 36,81, no alucinación de AA-Omniscience 61,27 frente a 68,81, y precisión IQ2 frente a BF16. Un pie de página señala que todas las cifras provienen de la propia ficha de modelo de un único proveedor que compara sus dos modelos, que la columna de Bolt es un artefacto cuantizado a 2 bits medido frente a una línea base sin cuantizar, y que ningún tercero ha reproducido ninguna fila. El logotipo de OrcaRouter aparece en la esquina inferior derecha.
Guides & Insights

Nemotron 3.5 Bolt vs Nemotron 3.5 Lightning: Lo que dice la propia tabla de NVIDIA cuando se leen ambas columnas

Autor

Gideon Frost

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB y NVIDIA Nemotron 3.5 Lightning 30B-A3B son dos niveles de la misma familia, lanzados con diez semanas de diferencia, y el proveedor ya ha publicado una tabla que los pone frente a frente. Eso es inusual y útil: la mayoría de las tablas comparativas que se leen las arma un periodista o un proveedor que elige comparaciones halagadoras, y esta la ha hecho un laboratorio que compara su propio modelo más nuevo con su propio modelo más antiguo, en público, con el más antiguo nombrado como línea base. Sigue siendo reportado por el proveedor y nadie fuera de NVIDIA ha reproducido una fila de ella — pero la intención detrás de ella no está en duda, y tampoco lo está la dirección del resultado. Bolt gana doce de las trece filas. Vale la pena entender exactamente cuál pierde y por qué esa fila es la interesante.

La estructura de la familia importa antes que las cifras. Nemotron 3.5 Lightning se lanzó el 11 de agosto de 2026 como la capa de ejecución de un stack de agentes: un híbrido de 30B totales y 3B activos que NVIDIA destiló del mucho mayor Nemotron 3 Ultra específicamente para que un modelo de frontera pudiera encargarse de la planificación mientras Lightning procesa las llamadas a herramientas en una sola GPU. Bolt es de un linaje completamente distinto: se comprimió a partir del modelo Nemotron 3.5 Super VL de 120B-A12B, no de Ultra, y existe para ser un generalista de visión-lenguaje que quepa en 24GB. Ambos son de pesos abiertos bajo OpenMDW-1.1, ambos son mezclas dispersas de expertos sobre backbones híbridos Mamba-2, y ambos incluyen decodificación especulativa: Lightning con cabezas de Predicción Multi-Token más borradores DFlash y DSpark, Bolt con un borrador LiLiCorr impulsado a través de DFlash que propone siete tokens por adelantado.

El linaje compartido deja de ser útil en el momento en que tienes que decidir, porque los dos modelos responden a preguntas diferentes. Uno es un ejecutor barato. El otro es un generalista local.

Leer la tabla por rol, no por puntuación

Todas las cifras a continuación proceden de la propia tarjeta de modelo de NVIDIA para el checkpoint Bolt 24GB, que incluye a Lightning como línea base. La columna de Bolt es IQ2, un artefacto cuantizado de 2 bits. La columna de Lightning es BF16, sin cuantizar. Esa asimetría es lo más importante que hay que saber sobre la tabla, y juega a favor de Bolt: está ganando esas filas mientras está comprimido aproximadamente ocho veces en relación con su modelo padre.

• Razonamiento agéntico general — GDPVal-AA-V2: Bolt 28.47, Lightning 18.26. Una diferencia de diez puntos, y la fila más cercana a "lo bueno que es esto en el trabajo cotidiano de oficina para el que se creó el modelo".

• Trabajo en terminal — Terminal-Bench 2.1: Bolt 50.98, Lightning 23.46. Esta es la mayor diferencia en la tabla y no es sorprendente, porque la propia guía de NVIDIA para Lightning indica que no debería ser el agente principal. Una evaluación independiente registró aproximadamente 24.6 para Lightning en el mismo benchmark, lo que se acerca lo suficiente al 23.46 del proveedor como para sugerir que la cifra es real.

• Razonamiento científico y de conocimiento — GPQA Diamond: Bolt 86,43; Lightning 75,57. SciCode: Bolt 41,02; Lightning 31,38. Humanity's Last Exam sin herramientas: Bolt 25,30; Lightning 10,47. Consistencia en tres formas diferentes de preguntas difíciles.

• Razonamiento de contexto largo — AA-LCR: Bolt 64.06, Lightning 49.19. Quince puntos, y aquí la restricción de memoria no es el factor limitante para ninguno de los dos modelos.

• Agencia web y de navegación — BrowseComp: Bolt 66,75, Lightning 36,81. Treinta puntos. La mayor brecha individual de la tabla, y la que contradice más directamente la idea de Lightning como ejecutor autónomo.

• Densidad de uso de herramientas — MCP-Atlas: Bolt 52,20, Lightning 46,4. PinchBench: Bolt 87,82, Lightning 83,43. Ambas más cercanas que las diferencias anteriores, lo cual es coherente con el encargo de diseño real de Lightning: pasos de herramienta cortos y de alta frecuencia.

• Visión — Visión de WebArena: Bolt 50.86, Lightning no tiene entrada. Esto no es una laguna de reporte. Lightning es texto de entrada, texto de salida; no tiene un codificador de visión que puntuar.

A generated two-column scoreboard titled Nemotron 3.5 Bolt 74B-A9B 24GB vs Nemotron 3.5 Lightning 30B-A3B, the left column tagged IQ2 listing Terminal-Bench 2.1 50.98, GPQA Diamond 86.43, BrowseComp 66.75, AA-LCR 64.06, precision IQ2 at 2.0625 bits per expert, and vision for text image and video, and the right column tagged BF16 listing Terminal-Bench 2.1 23.46, GPQA Diamond 75.57, BrowseComp 36.81, AA-LCR 49.19, BF16 precision, and text-only vision. A footer records that all rows are vendor-reported from a single model card and that Lightning's only win is non-hallucination at 68.81 against 61.27. The OrcaRouter logo sits bottom-right.

La única fila en la que gana Lightning, y por qué no es ruido

AA-Omniscience no alucinación: Nemotron 3.5 Lightning 68.81, Nemotron 3.5 Bolt 61.27. En la mitad de precisión de la misma evaluación, los dos están dentro de un tercio de punto entre sí —16.90 para Bolt frente a 16.63 para Lightning—, lo que hace que la brecha en la mitad de no alucinación sea la historia completa en lugar de un artefacto de redondeo. El modelo más pequeño, más antiguo y no cuantizado es mediblemente más reticente a decir cosas que no sabe.

Eso es un hallazgo real y tiene un mecanismo plausible. Bolt alcanzó su huella mediante una agresiva cuantización de 2 bits con destilación consciente de la cuantización; la parte con pérdida de ese pipeline es exactamente la que gobierna la incertidumbre calibrada. Lightning es más pequeño, pero se sitúa a plena precisión BF16, y su objetivo de destilación era un modelo de razonamiento en lugar de una ratio de compresión. Si el modo de fallo de tu agente es una respuesta incorrecta pero segura de sí misma que se propaga a una acción, esta es la fila que más peso debería recibir — y ninguna cantidad de astucia en el enrutamiento arregla un modelo que inventa más.

Los vendedores rara vez publican una tabla que contenga una fila en la que su nuevo modelo pierda. Que esta lo haga es una pequeña prueba de que la tabla no es puramente promocional.

El coste de servicio es el verdadero segundo eje

Las puntuaciones anteriores no son toda la decisión, porque estos dos modelos no cuestan lo mismo de ejecutar.

• Parámetros activos — Bolt activa 9B por token; Lightning activa aproximadamente 3B. Tres veces el cómputo por token para el modelo más grande, en cada token, para siempre.

• Envolvente de memoria — Bolt es un archivo de 24 GB con todo ya comprimido; Lightning es un checkpoint de 30B en BF16 que requiere una sola GPU y cabe cómodamente en una RTX 5090, una DGX Spark o un dispositivo Jetson.

• Contexto — ambos están especificados para 1M de tokens, y en la práctica ambos son más limitados. Lightning ofrece 256K en una sola H100 antes de que los cálculos de memoria se vuelvan complicados; la ventana publicada de Bolt es 262.144, y esa ventana comparte los mismos 24 GB con la caché KV, las imágenes y los resultados de las herramientas.

• Afirmaciones sobre la velocidad — NVIDIA afirma hasta 4x de velocidad de salida frente a modelos de tamaño similar para Lightning mediante sus modelos borradores MTP y DFlash/DSpark, y al menos 80 tokens por segundo de decodificación como objetivo de diseño para Bolt, con 84 medidos en el AIPerf SPEED-Bench en RTX Spark y 83.99 en una ejecución de llama.cpp en un Surface Laptop Ultra con 128GB. Ambas son cifras del fabricante. Ninguna ha sido reproducida por nadie fuera de NVIDIA.

• Medición — ninguno de los dos tiene un precio de alojamiento por nuestra parte ni por parte de ninguna plataforma que te podamos indicar. El coste es tu hardware en cualquier caso, que es precisamente por lo que el recuento de parámetros activos importa más que en una comparación alojada.

A screenshot of the Artificial Analysis model page for Nemotron 3.5 Bolt 74B-A9B, showing an Intelligence Index of 21 with a rank of fourth of 67 in its class, speed and cost both marked N/A, a verbosity figure of 230 million output tokens at eleventh of 13, and technical specifications listing reasoning, text and image input, text output, a 262K context window, 74B total parameters and 9B active parameters.

Qué podía y qué no podía medir el panel

Artificial Analysis tiene una entrada para Nemotron 3.5 Bolt 74B-A9B y le asigna 21 en el Intelligence Index, cuarto de 67 en su clase de huella frente a una mediana de clase de 8. Sus campos de velocidad y costo por tarea aparecen como N/A, porque no hay un endpoint alojado al que llamar. Esos dos espacios en blanco son el estado honesto del modelo: su piso de inteligencia está verificado de forma independiente y su techo de rendimiento no.

No hay ninguna entrada de Artificial Analysis para Nemotron 3.5 Lightning en el momento de escribir esto, lo que deja toda la comparación apoyada en la propia ficha de NVIDIA. El dato independiente que sí existe —una verificación de LLM Stats de aproximadamente 24,6 en Terminal-Bench 2.1, coherente con el 23,46 del proveedor— respalda las cifras del proveedor en lugar de contradecirlas. Eso resulta tranquilizador en cuanto a la tabla, aunque no sustituye a un segundo harness.

Cómo elegir realmente

La intención de diseño decide la mayoría de los casos antes de que lo hagan los benchmarks. Lightning es un ejecutor por construcción: la propia guía de NVIDIA es dejar que un modelo de frontera planifique y que Lightning ejecute el bucle, y sus mejores filas en la tabla son las de llamadas a herramientas de alta frecuencia, no las de agentes autónomos. Bolt es un generalista por construcción: la misma tabla lo muestra muy por delante en agencia de navegación y trabajo en terminal, que son las tareas más propias de un planificador que Lightning nunca estuvo destinado a asumir — y es el único de los dos que puede ver.

La composición para la que se crearon ambos modelos es un planificador, un ejecutor y un especialista local. Como ninguno de los dos checkpoints tiene un precio de alojamiento, la división recae en tu propio hardware y un único endpoint delante de él hace el trabajo útil: una regla de enrutamiento que envía los bucles cortos de llamadas a herramientas a un despliegue de Lightning, las solicitudes con visión y de manejo del navegador a Bolt, y cualquier cosa que necesite razonamiento de frontera genuino hacia un modelo alojado — todo detrás de una sola clave, con conmutación por error entre proveedores upstream cuando un tramo alojado se degrada. La regla vive en la configuración en lugar de en cada servicio, que es la diferencia entre una capa de enrutamiento y una reescritura.

A screenshot of the OrcaRouter Models catalogue page, showing the heading Models with the subtitle 210 models, 16 providers, one API key and one bill, a panel explaining how to call any model from the OpenAI-compatible endpoint at api.orcarouter.ai/v1/chat/completions, tab counts of 210 total models with 173 text, 12 image, 5 embeddings, 10 video and 10 text-to-speech entries, prepaid credit plans, and a grid of model cards each carrying a name, provider, per-million input and output token prices with cache read and cache write rates, and a context-window badge.

La cuestión abierta es una única ejecución independiente. Si un tercero reproduce las diferencias de Terminal-Bench y BrowseComp en Bolt, el checkpoint de 24GB es genuinamente el generalista más fuerte y el argumento a favor del nivel de 30B se reduce a pura economía de throughput. Si no lo hace, la lectura honesta es que un 74B cuantizado a 2 bits y un 30B en BF16 están más cerca de lo que implica la tabla de un proveedor — y que la fila de no alucinación, la que gana Lightning, merece más peso del que sugiere su posición en la parte inferior de la tarjeta.