Nemotron 3.5 Bolt 24GB vs Nemotron 3.5 Lightning 30B-A3B: misma familia, despliegues opuestos

Dos modelos de una misma familia, lanzados con cuatro meses de diferencia, diseñados para abordar extremos opuestos de la misma pregunta. N​VIDIA N​emotron 3.5 Lightning 30B-A3B se lanzó en agosto de 2026 como un modelo de texto de alto rendimiento para servicio en centros de datos. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB se lanzó el 15 de octubre de 2026 como un agente multimodal que cabe en un portátil. Bolt tiene el doble de parámetros totales y el triple de parámetros activos que Lightning, y se ejecuta en hardware en el que Lightning no puede arrancar. Esto es lo que realmente los diferencia, y donde el parecido familiar resulta engañoso.

Ambos salen de la misma receta de entrenamiento.

El informe técnico de N​VIDIA sobre el par deja claro que ambos modelos comienzan con las mismas dos etapas: un calentamiento de 100 mil millones de tokens para las cabezas de predicción de múltiples tokens y, después, un billón de tokens de destilación del siguiente modelo N​emotron 3, más grande. Lightning destila de N​emotron 3 Super Base; Bolt destila de la línea N​emotron 3.5 Super VL, y por eso Bolt puede ver y Lightning no.

Después de eso, los caminos se separan, y la separación es toda la historia.

Lightning pasa por una fase de contexto largo de 21 mil millones de tokens que lo extiende a un millón de tokens, luego por un pipeline de postentrenamiento con SFT y RLVR, y se lanza como un modelo de texto de 30B totales / 3B activos con opciones especulativas DSpark, DFlash y MTP y un objetivo de implementación en una sola GPU de una H100 o una DGX Spark con pesos NVFP4.

Bolt se comprime a partir de un modelo padre de 120 mil millones de parámetros mediante la búsqueda de arquitectura Star Elastic, se vuelve a conectar a su torre de visión, se reentrena a través de una etapa supervisada con un gran componente de visión, luego se somete a aprendizaje por refuerzo de extremo a extremo en entornos agénticos y, finalmente, se cuantiza a 2,0625 bits por peso de experto con destilación consciente de la cuantización. Incluye un modelo borrador, LiLiCorr, y una forma de despliegue: algo con 24 GB de memoria y la capacidad de ejecutarlo junto a otras aplicaciones.

El contraste de especificaciones, lado a lado

• Parámetros — Bolt: 74B en total, 9B activos. Lightning: 30B en total, 3B activos.

• Precisión tal como se entrega — Bolt: expertos IQ2_XXS a 2,0625 bits por elemento, capas Mamba NVFP4, embeddings y atención Q8_0. Lightning: NVFP4 en todos los componentes para el checkpoint de despliegue, con una versión de referencia BF16 para personalización.

• Contexto — Bolt: 262.144 tokens. Lightning: un millón de tokens, el resultado de una fase de entrenamiento dedicada a contexto largo.

• Modalidad — Bolt: entrada de texto, imágenes y vídeo. Lightning: solo texto. La ficha de Artificial Analysis de cada modelo lo indica en el mismo panel y con la misma redacción, lo que la convierte en una de las pocas filas en las que ambos son directamente comparables sin salvedades.

• Hardware del host — Bolt: portátiles RTX Spark, PC GeForce RTX, DGX Spark, DGX Station, estaciones de trabajo RTX PRO. Lightning: un DGX Spark o una H100, o Blackwell y Ampere mediante W4A16.

• Decodificación especulativa — Bolt: LiLiCorr, un modelo borrador de 1,13B, siete tokens de borrador por paso. Lightning: DSpark para trabajo de baja concurrencia, con DFlash y MTP también publicados.

• Licencia — OpenMDW-1.1 para ambos, y ambos están autorizados para uso comercial.

El único lugar donde ambos son medidos por alguien más

Estos dos modelos tienen algo de lo que carece la mayoría de la familia Nemotron: entradas en el mismo panel independiente, medidas de la misma manera. Eso hace que la comparación sea inusualmente limpia para un enfrentamiento dentro de una misma familia.

Artificial Analysis puntúa a N​emotron 3.5 Lightning con 13 en su Índice de Inteligencia, lo que lo sitúa en el puesto 28 de 141 modelos, y a N​emotron 3.5 Bolt 74B-A9B con 21, en el cuarto puesto de 67 modelos de su propia clase. Esas clases no son idénticas —Bolt es un modelo abierto de pesos medios y Lightning es uno pequeño—, por lo que los puestos no son directamente comparables, pero las puntuaciones del índice se obtienen con la misma metodología y sobre las mismas evaluaciones.

La velocidad es donde la brecha se invierte, y este es el hecho más relevante para la decisión sobre el par. El panel mide Lightning a 307 tokens de salida por segundo, primero de 63 modelos en esa dimensión. Reporta la velocidad de Bolt como no disponible, porque no hay una API pública que lo sirva y la medición de velocidad del panel requiere una. La única cifra de rendimiento que existe para Bolt es la de N​VIDIA: 83.99 tokens por segundo en AIPerf SPEED-Bench-Coding, en una Surface Laptop Ultra con 128GB de memoria, con el drafter adjunto.

Léelos juntos y la historia de la familia se vuelve concreta. Lightning es aproximadamente tres veces y media más rápido que Bolt según los números que tenemos, en un formato que se puede alquilar por token; Bolt es considerablemente más inteligente en el mismo índice y funciona en una máquina que nadie puede alquilar en absoluto.

Tres formas en que la elección se resuelve

Si la carga de trabajo es de gran volumen y solo texto, Lightning no es un compromiso, es la mejor herramienta. Un contexto de un millón de tokens a 307 tokens por segundo con una tarifa publicada de seis centavos por millón de tokens de entrada y veinte centavos por millón de salida es algo concreto y útil, y Bolt no puede igualar la velocidad ni el contexto en hardware de ningún tipo.

Si la carga de trabajo es visual, no hay decisión que tomar. Bolt acepta imágenes y video y Lightning no, y ninguna cantidad de contexto o rendimiento puede sustituir a una modalidad que está ausente. La fila de visión de WebArena en la propia tabla de NVIDIA — 50.86 para Bolt, con Lightning sin aparecer en absoluto — es lo que eso parece cuando pasa de una hoja de especificaciones a un benchmark.

Si la carga de trabajo tiene que ejecutarse sin red, Bolt es el único de los dos que se ha empaquetado para ello. El objetivo de despliegue de Lightning es una única H100 o DGX Spark con un checkpoint NVFP4, que es un servidor; el de Bolt es un archivo de 24 GB en un portátil que además está ejecutando un navegador. La distinción no se refiere a la capacidad, sino a dónde se encuentra la máquina.

Qué obtiene la familia al enviar ambos

Lo interesante de este par no es que uno supere al otro. Es que N​VIDIA construyó primero el barato y luego pasó cuatro meses construyendo el caro para encajarlo en algún lugar al que el barato no podía llegar.

Lightning es la apuesta por el rendimiento: pocos parámetros activos, un contexto enorme, diseñado para servirse muchas veces en una sola GPU. Bolt es la apuesta por la densidad: una cantidad enorme de parámetros comprimida en un presupuesto de memoria fijo, de modo que un único usuario en una sola máquina obtiene localmente algo más cercano al comportamiento de un agente de frontera. Las dos optimizan cocientes diferentes —tokens por segundo por GPU frente a inteligencia por gigabyte por dispositivo— y el hecho de que Bolt obtenga 21 frente a los 13 de Lightning no es una derrota para Lightning, porque Lightning no cabría en la máquina para la que se construyó Bolt en la forma en la que Bolt existe.

También hay un dato que respalda el propio argumento de la compresión. La tabla de proveedores de Bolt incluye a Lightning como una de sus líneas base, y Bolt le gana en casi todas las filas agénticas: 50,98 frente a 23,46 en Terminal-Bench 2.1, 66,75 frente a 36,81 en BrowseComp, 17,01 frente a 9,48 en Tau3 Banking, 28,47 frente a 18,26 en GDPVal-AA-V2. Esos son números de la propia NVIDIA que comparan dos de sus propios modelos en la misma tabla, y la lectura honesta es que comprimir un modelo padre de 120B supera a entrenar un modelo de 30B desde cero con el mismo tamaño objetivo. Esa es precisamente la afirmación que Star Elastic fue inventada para respaldar.

En qué situación deja esto a cualquiera que construya un agente

El emparejamiento sugiere una forma más que un ganador. Lightning se ocupa de la parte intermedia del trabajo de un agente —de alto volumen, contexto largo y solo texto—, donde el rendimiento y el contexto son las restricciones determinantes. Bolt se ocupa del trabajo local, visual y tolerante a la latencia que no puede salir de la máquina. Ninguno sustituye al otro, y la propia forma en que NVIDIA enmarca la familia —Ultra para el razonamiento más difícil, Lightning para el rendimiento, Bolt para el edge— es una admisión de que la frontera es real.

Lo que ninguno de los dos modelos resuelve es la parte de la pila que no es local ni de NVIDIA. No alojamos ninguno de los dos checkpoints; el catálogo de OrcaRouter no tiene ninguna entrada de Nemotron, así que no hay endpoint ni tarifa que cotizar para estos dos. Lo que aporta una pasarela a una pila mixta es el otro lado: una sola clave para más de 200 modelos alojados, el precio de lista del proveedor transferido sin margen añadido, conmutación automática por error cuando un proveedor se degrada, y un DSL de enrutamiento para describir el escalado entre modelos como configuración. La elección entre Bolt y Lightning se toma en tu hardware y en tu entorno de pruebas. Lo que ocurre cuando la tarea supera a ambos, o cuando una solicitud tiene que llegar a un modelo que ninguno de los dos puede ser, es la parte que reside detrás de un endpoint.

¿Cuál probar primero?

Si tienes una GPU con 24GB y una conexión de red que va y viene, Bolt es la descarga más interesante: es más nuevo, es multimodal y hace algo que ninguna otra versión de la familia puede hacer.

Si tienes un DGX Spark, una H100 o una aplicación en la que la latencia es el producto, Lightning tiene disponibilidad general desde agosto, cuenta con una medición de velocidad independiente que lo sitúa primero en su clase, tiene un precio publicado y ha tenido dos meses para que el ecosistema encuentre sus asperezas. Bolt lleva un día, su generador de borradores es una tercera descarga obligatoria y nadie fuera de N​VIDIA ha medido su latencia.

Ambas afirmaciones pueden ser ciertas a la vez. Para eso está la familia.

Esa brecha entre lo que mide un marcador y lo que encuentra un despliegue es la razón por la que el registro importa: los fallos de IA documentados y los incidentes de agentes en torno a modelos de esta clase se recopilan en el OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, gravedad, grado de confianza e indicador de disputa.