Nemotron 3.5 Bolt vs Nemotron 3 Ultra: ¿Qué sobrevive a una compresión de 7,4 veces?

Dos modelos del mismo proveedor, separados por un factor de 7,4 en la cantidad de parámetros y por aproximadamente dos órdenes de magnitud en el hardware necesario para ejecutarlos. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB se publicó el 15 de octubre de 2026 como un archivo de 24 GB que se ejecuta junto a tus otras aplicaciones en un dispositivo Spark o una GPU Blackwell. NVIDIA Nemotron 3 Ultra 550B-A55B está en Hugging Face desde el 3 de junio de 2026 y requiere dieciséis H100 como mínimo en BF16.

La pregunta interesante no es cuál es más potente — la respuesta es obvia y no hay comparación. Es qué sobrevive específicamente cuando comprimís un modelo grande en un envelope de memoria pequeño, porque eso te dice qué cargas de trabajo puede absorber el pequeño y cuáles lo van a dejar en evidencia. La propia nota de investigación de NVIDIA responde directamente a una parte de esa pregunta, y las partes que no responde son donde vive la decisión real.

No son padre e hijo, independientemente de lo que sugiera la denominación

La suposición obvia es que Bolt es un Ultra reducido. No lo es, y acertar en esto cambia lo que esperas del archivo. Nemotron 3.5 Lightning, el nivel 30B-A3B del 11 de agosto de 2026, se destiló de Ultra. Bolt no. Bolt se comprime a partir de Nemotron 3.5 Super VL, un modelo de visión-lenguaje de 120B-A12B, mediante una búsqueda guiada por enrutador que NVIDIA llama Star Elastic, seguida de una destilación con reconocimiento de cuantización hasta 2.0625 bits por peso de experto en un formato IQ2_XXS.

Esa línea de descendencia explica la única diferencia que importa más que cualquier fila de un benchmark: Bolt tiene un codificador de visión C-RADIO v4-H y acepta imágenes y vídeo. Ultra es texto de entrada, texto de salida, y no se trata de una laguna en el informe: el checkpoint no tiene ninguna torre de visión que puntuar. El modelo más pequeño, más reciente y fuertemente cuantizado ve; el mayor modelo de razonamiento de la familia, no.

Lo que la compresión conservó

Bolt tiene 74 mil millones de parámetros con 9 mil millones activos por token en un backbone híbrido de Mamba-2 y Transformer. Ultra tiene 550 mil millones con 55 mil millones activos. La proporción de parámetros activos es de 6,1 a 1, y la proporción de parámetros totales es de 7,4 a 1, lo que significa que la compresión eliminó proporcionalmente más capacidad total que cómputo por token: el modelo se volvió más estrecho más rápido de lo que se volvió menos profundo.

Lo que eso produce, según la evidencia disponible:

• Inteligencia independiente — Artificial Analysis puntúa a Nemotron 3.5 Bolt con 21 en su Intelligence Index, cuarto de 67 en su clase filtrada por huella frente a una mediana de clase de 8. Ultra no pertenece a la misma clase y obtiene una puntuación mucho más alta en la misma versión del índice. Este es el costo medible de la compresión.

• Velocidad independiente — Artificial Analysis mide Ultra a 156.1 tokens de salida por segundo, décimo de 74 modelos en esa página y en su banda de velocidad superior. Para Bolt, los mismos campos indican N/A, porque no hay un endpoint alojado que llamar. Las propias cifras de NVIDIA — 84 tokens por segundo en AIPerf SPEED-Bench en RTX Spark, 83.99 en llama.cpp en una Surface Laptop Ultra — son reportadas por el proveedor y no reproducidas.

• Seguimiento de instrucciones — Ultra registra 82.9 en IFBench. Esta es la fila que hay que vigilar en un agente que debe obedecer una política de herramientas extensa, y es el tipo de capacidad que la destilación consciente de la cuantización preserva de manera desigual.

• Razonamiento de contexto largo — Ultra registra 75,2 en AA-LCR frente a una especificación de 1 M de tokens. La ventana publicada de Bolt es de 262.144 tokens, y comparte 24 GB con la caché KV, las imágenes y la conversación. Una ventana declarada amplia y la capacidad de usarla son propiedades independientes; aquí, el modelo más grande tiene más de ambas.

• Contención factual — Ultra registra 22.1 en alucinación de AA-Omniscience con 77.91 de no alucinación. La propia tarjeta de Bolt registra 61.27 en no alucinación, la única fila donde pierde frente al mucho más pequeño Nemotron 3.5 Lightning. Dos señales independientes que apuntan en la misma dirección: aquí es donde la compresión agresiva de 2 bits cuesta más, y ningún truco de enrutamiento repara un modelo que inventa más.

La envolvente de despliegue, que es donde los dos realmente se separan

Esta es la parte de la comparación que no se reduce a una puntuación.

• Memoria — Bolt es un único artefacto de 24GB, ya cuantizado, pensado para coexistir con un navegador y un IDE en una misma máquina. Ultra en BF16 requiere dieciséis H100, ocho H200 u ocho nodos de clase GB200 según su propia ficha de modelo; la compilación NVFP4 lo reduce a ocho H100 como mínimo. La diferencia entre esas dos frases es la diferencia entre una orden de compra y un programa de adquisiciones.

• Configuración de contexto — Bolt atiende 262.144 tokens directamente en su receta publicada de vLLM. Las recetas de Ultra se configuran por defecto en 256K y requieren un flag de entorno para alcanzar los 1.048.576 completos, por lo que el panel registra 262K para Ultra a pesar de una especificación de 1M. Lee la especificación y luego lee la receta.

• Pila de servicio — Bolt se ejecuta con vLLM en Ampere, Hopper y Blackwell, o con llama.cpp en hardware RTX Spark y DGX Spark, bajo la licencia OpenMDW-1.1 que permite el uso comercial. Ultra se ejecuta bajo la misma licencia con paralelismo de clase centro de datos. Ambos son pesos abiertos; solo uno de ellos es portable.

• Coste del prompt — Ultra se factura a $0.60 por millón de tokens de entrada y $2.50 por millón de tokens de salida con un descuento de caché del 73 %, lo que supone alrededor de $0.60 por ejecutar una tarea de Intelligence Index — realmente barato para un modelo de ese tamaño, y disponible porque otra persona opera el clúster. Bolt no tiene precio alguno: ni endpoint alojado, ni API de proveedor, ni tabla de tarifas, y N/A tanto en el campo de velocidad como en el de coste del único panel independiente que lo incluye.

Leyendo el anuncio por lo que dice y lo que no dice

El checkpoint de Bolt estuvo en Hugging Face desde el 7 de octubre de 2026 con solo una tarjeta de modelo adjunta. El anuncio del proveedor que lo nombra —junto con un hermano de 4 GB, Nemotron 3.5 Bolt E4B, dirigido a personajes de juegos y fechado para el 23 de octubre— llegó el 15 de octubre. Publicar los pesos ocho días antes del texto no es inusual, pero sí implica que durante una semana el registro público no contiene explicación alguna del modelo, y que cualquier reseña escrita en ese lapso trabajaba únicamente a partir de la tarjeta.

El anuncio también es el lugar donde buscar lo que está ausente. No hay endpoint alojado, ni API, ni lista de precios, ni plataforma de terceros que mida Bolt — y nadie ha realizado un benchmark independiente sobre los pesos de 24 GB. Los números del proveedor son reales y específicos, obtenidos con llama.cpp en un Surface Laptop Ultra con 128 GB; simplemente no se han reproducido fuera de NVIDIA.

Dónde pertenece cada modelo, y dónde pertenece un router

Ninguno de estos modelos está en el catálogo de OrcaRouter. No alojamos ningún checkpoint de NVIDIA, no existe un endpoint Bolt ni un endpoint Ultra, y nada de lo que hay aquí constituye una oferta para servir a ninguno de los dos. Lo que sí aporta un único endpoint, si ejecutas uno o ambos por tu cuenta, es una forma de mantener las mitades local y alojada de un flujo de trabajo bajo una sola clave: los más de 200 modelos de nuestro catálogo están detrás de una sola clave de API y una sola factura, al precio de lista de cada proveedor trasladado con un 0% de margen añadido, de modo que un cambio de precio de un proveedor se refleja en nuestro lado el mismo día y no en la próxima renovación. Una solicitud que necesita una ventana completa de un millón de tokens o un razonador a escala de frontend se envía a un modelo alojado; el archivo local se queda con el trabajo de alto volumen y sensible a la privacidad que nunca debería haber salido del edificio. La conmutación por error automática hace que un upstream degradado mueva la solicitud en lugar de fallar.

La ubicación se deriva de los cálculos del despliegue, no de las puntuaciones. Bolt va en una estación de trabajo cuando los datos no pueden viajar, cuando la carga de trabajo conlleva vídeo o cuando el volumen hace que la facturación por token sea la partida dominante —y cuando una ventana de 262K y una brecha de contención factual ya visible son aceptables. Ultra va en un endpoint con uso medido cuando el trabajo necesita un alcance de un millón de tokens, el seguimiento de instrucciones más sólido de la familia y la tasa de alucinación más baja que NVIDIA publica actualmente.

Quién debería actuar, y quién debería esperar

Actúe ahora si la carga de trabajo es local y con vídeo: Bolt es el único modelo de esta familia que cabe en 24GB y además puede ver, y ningún otro checkpoint abierto con esa huella obtiene 21 en el índice independiente. Actúe ahora si la carga de trabajo es razonamiento de texto de contexto largo a gran volumen: Ultra es medido, cuantificado y más barato por tarea del Intelligence Index de lo que un modelo de su tamaño tendría derecho a ser.

Espera, si tu decisión depende del rendimiento. La velocidad de Bolt es la única dimensión que no tiene ninguna medición independiente en ningún sitio, y en un modelo desplegado localmente la velocidad es lo que sientes cada segundo de cada día. Una sola prueba de latencia de terceros sobre los pesos de 24GB resolvería más que las próximas diez filas de benchmarks de proveedores, y hasta que exista, planificar la capacidad para Bolt es planificar en torno a una afirmación.