Nemotron 3.5 Bolt ya está aquí: lo que realmente contiene el checkpoint de 2 bits y 24 GB de NVIDIA

El repositorio de N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB apareció en Hugging Face el 7 de octubre de 2026 y permaneció allí, en silencio, durante ocho días. El 15 de octubre, N​VIDIA lo anunció —una entrada de blog, un comunicado de prensa y una página de investigación con esa fecha—, lo que significa que la parte interesante de esta historia no es el lanzamiento. Es la brecha. Durante ocho días, lo único que cualquiera podía saber sobre N​emotron 3.5 Bolt era lo que decían una tarjeta de modelo y un conjunto de safetensors, y todo lo demás era inferencia. Esa brecha ahora se ha cerrado, y vale la pena ser precisos sobre qué resolvió realmente ese cierre, porque una buena parte de lo que la gente repite sobre este modelo provino del repositorio en lugar del anuncio, y los dos no son el mismo documento.

Lo que ahora es seguro, en un párrafo, es esto. N​emotron 3.5 Bolt 74B-A9B 24GB es un modelo de visión-lenguaje de mezcla de expertos de 74 mil millones de parámetros, con 9 mil millones de parámetros activos por token, publicado el 15 de octubre de 2026 bajo la licencia OpenMDW-1.1, que almacena los pesos de sus expertos a 2,0625 bits por elemento, de modo que todo cabe en 24 GB. Está diseñado para ejecutar trabajo agéntico local —llamadas a herramientas, navegación, uso de terminal— en hardware RTX y DGX Spark. Está en Ollama como una etiqueta de 25 GB con una ventana de contexto de 256K. No está en ninguna API alojada y no tiene precio. Una parte de esa frase está medida de forma independiente y el resto es la palabra del propio proveedor.

Dos fechas, y cuál citar

Hay una diferencia real entre las dos fechas, y eso determina cómo deberías leer el resto de este artículo.

El repositorio de Hugging Face se creó el 7 de octubre de 2026 a las 17:50 UTC. La tarjeta de modelo que contiene incluye un campo Fecha de lanzamiento que dice Hugging Face 10/15/2026. La propia página de investigación de NVIDIA sobre el checkpoint está marcada con Publicado: October 15, 2026. La entrada del blog del proveedor que anuncia el nivel Bolt está fechada el 15 de octubre de 2026 y dice, textualmente, que Super VL y Bolt 74B-A9B "ya están disponibles".

Así que la lectura honesta es que el 15 de octubre es la fecha de lanzamiento y el 7 de octubre es cuando apareció la carpeta. Quien cite el 7 de octubre como el lanzamiento está citando una marca de tiempo de archivo; quien cite el 15 de octubre está citando al proveedor. Sin embargo, el intervalo de ocho días importa por una razón distinta a las fechas. Significa que durante más de una semana el modelo existió en un estado en el que el repositorio era la única superficie: ningún anuncio, ninguna página de precios, ninguna entrada en la tabla de clasificación, nadie de NVIDIA diciendo para qué servía. Toda descripción temprana de Bolt escrita en ese lapso, incluidas las que ahora circulan, se construyó a partir de la tarjeta. Resulta que la tarjeta era precisa. Vale la pena decirlo sin rodeos, porque el resultado habitual de estas situaciones es que no lo es.

Lo que el repositorio por sí solo demuestra

Todo en esta sección era legible en la ficha del modelo y los archivos de configuración antes de que NVIDIA dijera una palabra, y todo sigue siendo cierto.

• Parámetros — 74 mil millones en total, 9 mil millones activos por token. Mezcla dispersa de expertos, no un modelo denso.

• Arquitectura — un híbrido de Mamba-2 y Transformer con una columna vertebral LatentMoE y un codificador de visión C-RADIO v4-H. La configuración registra la clase como NemotronH_Omni_Reasoning_V3.

• Precisión almacenada — IQ2_XXS a 2,0625 bits por elemento en las capas FC1 y FC2 de expertos enrutados y compartidos, que es donde reside la mayor parte de los pesos. Las capas lineales de Mamba están en NVFP4, y los embeddings, la cabeza de salida, la atención y los pesos de LatentMoE en Q8_0.

• Contexto — hasta 256K tokens, o 262.144 en las recetas de despliegue.

• Entradas y salidas — texto, imágenes y video de entrada; texto de salida.

• Licencia — OpenMDW-1.1, y la tarjeta lo declara claramente: "lista para uso comercial o no comercial".

• Bases y procedencia — la tarjeta declara que su modelo base es el checkpoint BF16 del mismo nombre y su relación con él como cuantizada, y las etiquetas del conjunto de datos apuntan a las colecciones de preentrenamiento y postentrenamiento de NVIDIA Nemotron.

• Fechas del modelo — de diciembre de 2025 a mayo de 2026, con una fecha de corte de datos de post-entrenamiento en mayo de 2026. Lea esto con atención si la frescura le importa: el modelo es un lanzamiento de 2026 construido con datos que terminan cuatro meses y medio antes de salir al mercado.

• Entornos de ejecución — vLLM en NVIDIA Ampere, Hopper y Blackwell, y llama.cpp para RTX Spark y DGX Spark. La ficha de Ollama es más directa sobre los límites: el despliegue de CUDA está documentado, y Apple Silicon y Metal no son compatibles actualmente.

Lo que añadió el anuncio

El material del proveedor añade tres cosas que el repositorio no habría podido decirte.

Primero, el marco de la familia. Bolt se posiciona como el nivel de borde de la familia Nemotron, por debajo de Nemotron 3.5 Super VL con 120B para agentes de servidor siempre activos y por encima de nada en particular —la propia frase de NVIDIA los ordena: Super VL y Bolt "cubren toda la gama de despliegues de agentes, desde grandes servidores empresariales hasta dispositivos de borde y hardware local". Nemotron 3.5 Bolt E4B 4GB, un modelo de 4 mil millones de parámetros para agentes conversacionales y físicos, llega el 23 de octubre.

Segundo, la historia de la compresión, que es la afirmación de ingeniería genuinamente novedosa aquí. Bolt no es un modelo que se entrenó pequeño y luego se cuantizó. Es Nemotron 3.5 Super VL —120B en total, 12B activos— sometido a Star Elastic, la búsqueda de arquitectura guiada por router de NVIDIA, bajo la restricción estricta de caber por debajo de 24 GB de memoria con tamaño de lote uno y 128K de contexto. El top-K de expertos bajó de 22 en el modelo padre a 9 en Bolt, se buscaron los anchos intermedios del MoE por capa, y luego la red comprimida se cuantizó y se sometió a destilación con reconocimiento de cuantización para recuperar precisión. La conclusión declarada de NVIDIA es la parte interesante, y es una postura real, no una fanfarronada: para un presupuesto de memoria fijo, comprimir un modelo grande supera a entrenar uno pequeño desde cero. Esa es una afirmación que se puede poner a prueba, y nadie fuera de NVIDIA lo ha hecho.

Tercero, dos posiciones en la tabla de clasificación declaradas por el proveedor: el modelo abierto n.º 1 de su clase en PinchBench, y el modelo abierto n.º 2 en BrowseComp. Ambas son la caracterización que N​VIDIA hace de su propio modelo frente a una clase que ella misma definió.

Lo que el anuncio no añade es un endpoint servido. No hay una API alojada, ni un precio por token, ni forma de llamar a N​emotron 3.5 Bolt sin adquirir el hardware en el que se ejecuta. Artificial Analysis, que ha puntuado el modelo, enumera sus campos de velocidad y coste como no disponibles exactamente por esa razón: no hay una API disponible públicamente para medirlos.

La parte que nadie fuera de N​VIDIA ha ejecutado

Aquí es donde el artículo tiene que bajar el ritmo, porque la distancia entre lo que se ha medido y lo que se ha afirmado es inusualmente grande para un modelo de este tamaño.

En el lado de lo medido hay un número, y es un buen número: Artificial Analysis sitúa a N​emotron 3.5 Bolt 74B-A9B en 21 en su Intelligence Index, lo que lo coloca en cuarto lugar entre 67 modelos de su clase de comparación. Es una medición independiente del checkpoint real de 2 bits, no de una versión de referencia en BF16, y es la cifra más útil de la que se dispone sobre este modelo hoy.

En el lado de lo aseverado está todo lo demás. La ficha del modelo incluye una tabla de trece benchmarks con cuatro columnas —Qwen3.6-35B-A3B en BF16, Gemma 4 26B-A4B en BF16, N​emotron 3.5 Lightning 30B-A3B en BF16 y Bolt en IQ2—, y cada fila de ella fue producida por N​VIDIA, incluidas las tres columnas de referencia, que N​VIDIA seleccionó porque caben en 24 GB con cuantización de 4 bits. Bolt es el ganador en negrita en diez filas y no es el ganador en tres: precisión de AA-Omniscience, donde Gemma 4 26B-A4B obtiene 22.17 frente a los 16.90 de Bolt; no alucinación de AA-Omniscience, donde N​emotron 3.5 Lightning 30B-A3B obtiene 68.81 frente a los 61.27 de Bolt; y PinchBench, donde Qwen3.6-35B-A3B obtiene 88.07 frente a los 87.82 de Bolt. Publicar las tres filas que pierdes es un punto a favor del proveedor y no cambia lo que es la tabla: no reproducida.

Las cifras de velocidad merecen su propio párrafo porque contradicen el marketing. La propia tabla de mediciones de NVIDIA, tomada con llama.cpp en Windows 11 ARM64 en un Surface Laptop Ultra con 128 GB, muestra a Bolt a 83,99 tokens por segundo en AIPerf SPEED-Bench-Coding —por detrás de Qwen3.6-35B-A3B con 96,63 y de Gemma 4 26B-A4B con 100,56—. En la misma página, la duración de la reproducción de extremo a extremo en trayectorias realistas de agentes es de 600,80 segundos para Bolt frente a 453,97 para Qwen3.6 y 480,68 para Gemma. El argumento de venta es inteligencia por gigabyte, no velocidad, y la propia tabla del proveedor es coherente con ese argumento en lugar de con la afirmación de ser el más rápido.

Así que la forma de la evidencia es esta: una puntuación compuesta independiente que es respetable, una tabla de benchmark de proveedor que nadie ha reproducido, una tabla de velocidad de proveedor en un portátil que nadie fuera de NVIDIA ha ejecutado, y cero mediciones de latencia independientes. Considera poco fiable cualquier artículo que reporte la cifra de PinchBench de Bolt sin decir quién la produjo, incluido cualquier artículo que coincida con este.

¿Qué llegó junto a ello?

El lanzamiento de un modelo rara vez consiste solo en los pesos, y el elenco secundario de Bolt es más numeroso de lo habitual para algo que no tiene API.

El borrador especulativo LiLiCorr se incluye con él — 1,13 mil millones de parámetros, excluyendo los embeddings compartidos y la cabeza de salida, entrenado conjuntamente con el modelo objetivo, y NVIDIA informa longitudes medias de aceptación de 4,68 en decodificación voraz y 4,25 en muestreo probabilístico con siete tokens propuestos a una concurrencia de 64 en vLLM. El borrador es un checkpoint descargable independiente, no un indicador de tiempo de ejecución, y es el mecanismo detrás de la cifra de 84 TPS citada para RTX Spark.

El soporte del framework llegó rápido. Ollama incluye nemotron-3.5-bolt en tres etiquetas —una predeterminada, una etiqueta 74B-A9B y una etiqueta IQ2—, cada una de 25GB con un contexto de 256K y entrada de texto e imágenes, con lanzadores de una sola línea para C​laude Code, OpenCode, Hermes Agent y OpenClaw. Más allá de eso, hay una compilación GGUF de N​VIDIA, una cadena de cuantizaciones de la comunidad en 4 bits y 8 bits, y conversiones MLX que aparecieron en el plazo de un día desde el anuncio. Para un checkpoint que se ejecuta en un solo dispositivo de 24GB, que ese ecosistema llegue en cuarenta y ocho horas es la señal real de que se trata de un artefacto usable y no de un demostrador.

La advertencia práctica para cualquiera que planee usarlo: la cifra de 24 GB es un mínimo para los pesos, no un máximo para la carga de trabajo. Las imágenes, los fotogramas de vídeo, el historial de conversación y los resultados de herramientas comparten todos el presupuesto de contexto, y la propia nota de Ollama dice que el contexto utilizable depende de la memoria disponible. Una descarga de 25 GB que cabe cómodamente no es lo mismo que una sesión de 256K tokens que cabe cómodamente.

Donde esto te deja, y donde no

Si tu carga de trabajo es local y agéntica —uso de terminal, navegación, llamada a herramientas, depuración de código en un dispositivo que posees—, Nemotron 3.5 Bolt 74B-A9B 24GB es ahora una elección defendible con una puntuación independiente y un conjunto de pesos que puedes inspeccionar. El argumento de compresión que hay detrás es genuinamente interesante, la licencia permite el uso comercial y las herramientas aparecieron en un día.

Si tu carga de trabajo necesita ser invocada desde código que se ejecuta en algún lugar que no controlas, este modelo no es una opción hoy, y la respuesta honesta a «¿cómo lo uso?» es que lo ejecutas tú mismo en hardware de N​VIDIA o esperas. Revisamos nuestro propio catálogo en lugar de suponer, y no hay ningún modelo de N​VIDIA en él, así que no hay nada aquí que podamos enrutar, y decir lo contrario sería una mentira. Lo que OrcaRouter sí ofrece es la otra mitad de un despliegue mixto: los modelos a los que recurrirías cuando una solicitud es demasiado difícil, demasiado larga o demasiado desconocida para un checkpoint local de 2 bits, detrás de una sola clave en más de 200 modelos al precio de lista del proveedor sin margen añadido, con conmutación por error automática cuando un proveedor falla. Combinar un Bolt local con una API enrutada es una arquitectura sensata. Fingir que Bolt está del lado enrutado no lo es.

Lo que hay que vigilar no es la próxima tabla de benchmarks. Es si alguien fuera de N​VIDIA publica una prueba de latencia sobre el checkpoint de 24GB en hardware que un lector realmente tenga, y si aparece siquiera un endpoint alojado. Hasta que ocurra una de esas cosas, la especificación es una promesa y una puntuación de índice es lo único que la respalda.

Un resultado como este también sirve como recordatorio de que los errores de los modelos ya están documentados: los incidentes de IA y los fallos de agentes que hay detrás de los modelos de esta clase se recopilan en el Archivo de Incidentes de IA de OrcaRouter, donde cada entrada incluye sus propias fuentes, su gravedad, su grado de confianza y su indicador de disputa.