Nemotron 3.5 Super en Ollama: un modelo de visión de 120B que podrías ejecutar antes de que NVIDIA lo anunciara

Durante unas veinte horas, la ruta local a NVIDIA Nemotron 3.5 Super existió antes del anuncio de que existía. Ollama publicó el checkpoint en su biblioteca el 14 de octubre de 2026 en la versión v0.40.5, incorporando una actualización de llama.cpp que añadió soporte para Nemotron 3.5 y publicando nueve etiquetas de un modelo visión-lenguaje de 120 mil millones de parámetros — ollama run nemotron-3.5-super y lo estás ejecutando. La publicación propia de NVIDIA en su sala de prensa para los mismos pesos, publicada bajo el nombre más completo NVIDIA Nemotron 3.5 Super VL, se publicó la tarde siguiente, 15 de octubre, a las 15:00 UTC. Los pesos en sí habían estado en Hugging Face desde el 12 de octubre, en un repositorio llamado NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, donde el propio campo de fecha de lanzamiento de la tarjeta del modelo ya decía 10/15/2026.

Nada de eso es un escándalo. Ahora es la forma normal de un lanzamiento de pesos abiertos: el artefacto llega, los frameworks compiten por darle soporte y el marketing se pone al día. Pero cambia para qué vale la pena leer la ficha de Ollama. Lo que llegó el 14 de octubre no es un anuncio de producto con un runtime adjunto: es un runtime con un producto adjunto, y los dos documentos no coinciden en varias cosas que importan si estás a punto de gastar 90 GB de disco en él.

Lo que realmente se lanzó en la v0.40.5

La nota de lanzamiento de Ollama es inusualmente específica, lo que resulta conveniente. Describe a Nemotron 3.5 Super como un modelo de visión-lenguaje para programación, razonamiento, uso de herramientas y comprensión de documentos, construido sobre una arquitectura híbrida de mezcla de expertos Mamba-2/Transformer con 12 mil millones de parámetros activos por token de 120 mil millones en total, combinado con un codificador de visión C-RADIO. Anuncia llamadas a herramientas, un modo de pensamiento activado/desactivado y contexto de hasta 1 millón de tokens. Las dos líneas que más importan para cualquiera que ya esté ejecutando Ollama están enterradas más abajo: llama.cpp actualizado (añadiendo soporte para Nemotron 3.5) y MLX.

Esa única línea es la razón por la que la descarga funciona. Ollama enruta este checkpoint a través de su llamacpp runner en formato GGUF —el manifiesto del registro lo dice explícitamente—, así que "Ollama es compatible con Nemotron 3.5 Super" y "llama.cpp es compatible con Nemotron 3.5 Super" son la misma frase. Si tienes cualquier Ollama anterior a 0.40.5, no lo estás. El blob de configuración del modelo contiene "requires":"0.40.5", por lo que la restricción de versión se aplica en lugar de ser solo una recomendación.

La misma nota de versión también menciona a un hermano, Nemotron 3.5 Bolt, que destila Super hasta 74B de parámetros con 9B activos y, según la nota, está ajustado para caber en una GPU NVIDIA de 24 GB con decodificación especulativa mediante un drafter incluido. Ese es una descarga distinta y un nivel de hardware distinto; mantenlo separado en tu cabeza, porque el nombre invita a confusión.

Los nueve artefactos, y lo que cada uno pesa en realidad

La página de la biblioteca muestra una escala de tamaños. El manifiesto del registro que hay detrás muestra recuentos reales de bytes, y los dos no redondean de la misma manera, así que aquí están los números de los propios manifiestos en lugar de las insignias redondeadas:

• q4_K_M — 88.419.818.592 bytes, o 82,3 GiB (la página de la biblioteca muestra 80GB–90GB). Los nombres de etiquetas :latest, :120b, :120b-a12b y :120b-a12b-q4_K_M todos resuelven a esta misma capa, así que cuatro de las nueve entradas son un artefacto con cuatro nombres.

• q8_0 — 131.601.243.232 bytes, 122,6 GiB, mostrado como 133 GB.

• bf16 — 247.403.355.232 bytes, 230,4 GiB, mostrado como 249 GB. Este es el checkpoint de precisión completa vestido de GGUF, y es la única etiqueta aquí que no está ni remotamente cerca del hardware de consumo.

• MLX nvfp4 — 79,56 GB en total, el más pequeño del conjunto, y NVFP4 es el formato en el que la propia tarjeta de NVIDIA se distribuye como checkpoint de primera clase en lugar de una cuantización de posventa.

• MLX mxfp8 — 129,60 GB en total, la contraparte de MLX con aproximadamente la misma huella que q8_0.

• MLX bf16 — 248,92 GB en total, ligeramente más grande que el bf16 de GGUF porque MLX almacena los tensores de forma diferente.

• El proyector — cada etiqueta, sin excepción, incluye una capa de medios de 1.733.696.896 bytes, mmproj-bf16.gguf. Eso supone 1,61 GiB de codificador de visión que viaja con cada descarga, incluida la más pequeña. La ruta de imagen no es opcional ni es una descarga aparte.

Tres de las nueve entradas —las de MLX— están etiquetadas para Apple silicon en lugar de CUDA, y cada una aparece etiquetada simplemente como "MLX" en la página de la biblioteca. Si estás eligiendo una etiqueta en un Mac, nvfp4 con 79,56 GB es la que cabe en una máquina de memoria unificada de 96 GB o 128 GB con espacio de sobra, y mxfp8 con 129,60 GB no cabe en absoluto en un equipo de 128 GB una vez que se tiene en cuenta la caché KV.

La página de la biblioteca y el manifiesto no coinciden en cuanto a la longitud del contexto.

Las etiquetas GGUF anuncian una ventana de contexto de 1M de tokens. Las tres etiquetas MLX no anuncian ninguna: la columna muestra «- ventana de contexto» donde las otras muestran «1M». O bien la ruta de MLX no se ha habilitado para la configuración de contexto largo, o simplemente no se completó la página, pero desde fuera ambos casos son indistinguibles, y la postura honesta es que la afirmación de contexto largo está verificada para las etiquetas GGUF y no verificada para las de MLX.

Hay una segunda brecha en la misma dirección. El blob de configuración para la etiqueta predeterminada declara "model_type":"123.6B" mientras que toda la nomenclatura orientada al usuario dice 120B. Eso no es una discrepancia en los pesos; es una discrepancia en cómo se redondea el recuento de parámetros entre los dos sistemas, y vale la pena saber qué número te está citando una herramienta concreta.

Y un tercero, que es el que más probabilidades tiene de morder: el blob de params viene con {"draft_num_predict":3,"temperature":1,"top_p":0.95}. Esos valores de muestreo son los ajustes recomendados de la ficha del modelo — para texto. La ficha recomienda otro par para el trabajo con visión: temperature 0.6 frente a top_p 0.95. Así que el valor predeterminado de Ollama está ajustado para la mitad de texto de un modelo que Ollama anuncia como modelo de visión. Si tu primera experiencia con él en gráficos o páginas escaneadas te resulta decepcionante, esa es la primera perilla que girar, antes de sacar conclusiones sobre el checkpoint.

El draft_num_predict: 3 campo merece una línea propia. Es un parámetro de decodificación especulativa, y el manifiesto no incluye una capa separada de modelo borrador — solo el GGUF del modelo y el proyector. Así que cualquier especulación que esté haciendo el runtime se apoya en la cabeza de predicción de múltiples tokens integrada del modelo, en lugar del modelo borrador independiente LiLiCorr que la tarjeta de NVIDIA menciona que se distribuye junto con los checkpoints BF16 y NVFP4. Esa es una decisión de ingeniería razonable y también significa que la ruta de Ollama no es la configuración exacta que describen las cifras de rendimiento del proveedor.

Lo que el blob de configuración te dice en silencio

Cuatro campos en la configuración del manifiesto son más informativos de lo que su tamaño sugiere.

• model_family: nemotron_h_moe — la cadena de familia no es simplemente nemotron. Cualquier cosa en tu stack que conmute según la familia del modelo para elegir una plantilla de chat o un tokenizador no coincidirá con un prefijo ingenuo.

• renderizador: nemotron-3.5-super — un renderizador dedicado, por lo que la plantilla de chat es genuinamente de este modelo y no un valor predeterminado heredado.

• parser: nemotron-3-nano — y aquí el parser se toma prestado del hermano Nano más pequeño. El formato de salida del modo de pensamiento y de las llamadas a herramientas era evidentemente lo suficientemente estable en toda la familia como para que no necesitara un nuevo parser. También significa que, si ya has creado el manejo de llamadas a herramientas para Nemotron 3 Nano, probablemente funcione sin cambios aquí.

• tipo_de_archivo: Q4_K_M — la etiqueta predeterminada es una cuantización de 4 bits, y esa es la configuración por la que la mayoría de la gente juzgará este modelo.

La capa de licencia es un blob de 2.618 bytes que contiene el OpenMDW License Agreement versión 1.1, que es la misma licencia que la tarjeta de Hugging Face indica como openmdw-1.1. Permisiva, se permite el uso comercial, y vale la pena leerla antes de asumir que es Apache-2.0 porque el ecosistema Ollama que la rodea lo es en su mayoría.

Benchmarks: un conjunto es del proveedor, el otro no.

La tabla publicada por la propia NVIDIA es extensa y está compuesta enteramente por datos autoinformados. En ella, el modelo obtiene 89,52 en GPQA-Diamond, 31,79 en Humanity's Last Exam solo texto, 76,91 en MMLU-ProX, 88,22 en LiveCodeBench v6, 71,10 en SWE-bench Verified, 67,72 en SWE-bench Multilingual, 51,78 en SWE-bench Pro, 66,70 en Terminal-Bench 2.1, 70,86 en IFBench, 62,82 en MMLongBench-Doc, 78,16 en MathVision y 68,12 en OCRBench v2 en inglés frente a 59,15 en chino. Las filas de agentes son sólidas: 69,24 en retail, 76,50 en airline y 73,19 en telecom en tau2-bench. La compañía también afirma que, en la clasificación del Artificial Analysis Intelligence Index, el modelo alcanza un rendimiento de hasta 5 veces más rápido que otros de su clase, y que ejecutarlo en NVIDIA Dynamo permite a las organizaciones atender hasta 8 veces más usuarios con una latencia un 85 % menor. Son cifras del proveedor, producidas por el proveedor, sobre la infraestructura del proveedor: trátalas como una especificación, no como una auditoría.

El panorama independiente es más escueto, pero más útil, precisamente porque es más escueto. Artificial Analysis sitúa actualmente este checkpoint en un Intelligence Index de 26, que describe como muy por encima de la mediana de 8 para modelos de pesos abiertos de tamaño similar —una brecha real, y significativa si has estado asumiendo que un modelo abierto de 120B de un proveedor de hardware se sitúa en algún punto cerca de la mitad del grupo. La misma página registra 170M de tokens de salida consumidos al ejecutar el Index frente a una mediana de 100M, lo que interpreta como «algo verboso»: este es un modelo de razonamiento con un modo de pensamiento extendido, y la verbosidad es una línea de coste, no una nota a pie de página. Confirma el contexto de 1.0M, los 120B totales con 12B activos, entrada de imágenes con salida de texto y la licencia OpenMDW-1.1.

Lo único que esa página no puede decirte es cuánto cuesta por token, porque no hay un precio de servicio alojado que citar. La propia respuesta de Artificial Analysis sobre si el modelo está disponible vía API es que es un modelo de pesos abiertos que puede autoalojarse. Esa es toda la historia económica en una frase: tu coste marginal es la electricidad y una hora de GPU, y tu coste fijo es la descarga.

Lo que se necesita para ejecutarlo realmente.

La model card recomienda cuatro H100 o dos GB200 para el checkpoint publicado, con una receta de vLLM que especifica un paralelismo tensorial de 4 y una configuración especulativa del método mtp. Esa es la respuesta para centros de datos y está orientada a BF16. La pregunta interesante para cualquiera que lea un listado de Ollama es el otro extremo de la escala.

Con q4_K_M, 82,3 GiB de pesos más 1,61 GiB de proyector meten el modelo dentro de una única tarjeta de 96 GB o un Mac de 128 GB de memoria unificada, con un margen para la caché KV que se reduce rápidamente a medida que aumentas el contexto. Con los 1M de tokens que se anuncian, la caché no va a caber junto a los pesos en esa clase de hardware, diga lo que diga la insignia: el contexto largo en una sola máquina implica sacrificar concurrencia, no desbloquearla gratis. Planifica un contexto de trabajo muy por debajo del techo y trata la cifra de 1M como el límite de la arquitectura, no como el de tu despliegue.

La etiqueta MLX nvfp4de 79,56 GB es la elección pragmática para Apple Silicon, y además es el formato que el fabricante distribuye de forma nativa, lo que la convierte en la menos propensa de las etiquetas pequeñas a sorprenderte en cuanto a calidad.

Dónde encaja esto si enrutas en lugar de autoalojar

NVIDIA Nemotron 3.5 Super está disponible a través de los canales propios de compilación y distribución del proveedor y mediante el pull de Ollama descrito anteriormente. No está en OrcaRouter —enrutamos un poco más de 200 modelos y este no es uno de ellos—, así que si necesitas específicamente este checkpoint, el pull local es tu ruta y nada en este artículo sugiere que puedas llamarlo con nuestra clave.

Lo que realmente importa aquí de la plataforma es la decisión que la rodea. Evaluar un modelo como este tiene un coste fijo que ninguna tabla de benchmarks elimina: una descarga de 90 GB, una tarde de configuración y un conjunto de tus propios prompts antes de saber nada. La primera jugada más barata es ejecutar tu carga de trabajo real contra los modelos alojados a los que ya tienes acceso — una sola API para más de 200 modelos, con el precio de lista del proveedor traspasado sin recargo por token, de modo que si un proveedor baja los precios, ese cambio está activo en nuestro lado el mismo día — y deja que eso te diga si la carga de trabajo es una en la que un modelo de razonamiento de 120B mejora en absoluto. Luego dedica la descarga a los casos que hayan sobrevivido.

Y si llegas a poner un modelo abierto recién lanzado en una ruta de producción antes de confiar en él, la conmutación por error automática importa más que el precio. Un modelo que se lanzó el 14 de octubre ha tenido dos días de la atención del mundo; enrutarlo detrás de un mecanismo de respaldo es la forma de aprovechar sus ventajas sin apostar la ruta de las solicitudes a él.

El resumen honesto de lo que está y no está confirmado

Confirmado, directamente desde el registro y las notas de la versión: las etiquetas, sus digests, sus conteos de bytes, la versión mínima 0.40.5, el formato GGUF a través del llamacpp runner, el proyector de visión compartido, la cadena de familia de modelos, el renderizador, el analizador Nano heredado y la licencia OpenMDW-1.1. Confirmado desde la propia sala de prensa y la tarjeta del modelo de NVIDIA: la arquitectura, la división de parámetros, la licencia, la configuración de muestreo recomendada, la escala de entrenamiento — aproximadamente 26 billones de tokens entre el preentrenamiento y el preentrenamiento continuado, luego postentrenamiento con alrededor de 3,8 millones de muestras con aprendizaje por refuerzo en docenas de entornos — y la cobertura de idiomas del inglés, español, francés, alemán, italiano y japonés.

No confirmado: todas las cifras de benchmark, que son reportadas por el proveedor, siendo el Índice de 26 de Artificial Analysis y la verbosidad de 170 millones de tokens las únicas mediciones independientes de este artículo. No confirmado: que las etiquetas MLX soporten la longitud de contexto anunciada, ya que la página de la biblioteca no lo afirma para ellas. No confirmado: que la ruta de visión esté ajustada de fábrica, porque los valores predeterminados de muestreo incluidos son los de texto. Y no confirmado: cómo la cuantización de 4 bits modifica las puntuaciones publicadas, que es la cifra que más les importa a la mayoría de los lectores de un listado de Ollama y la que nadie ha publicado.

Si tienes una tarjeta de 96 GB, una razón para querer un modelo abierto de visión-lenguaje con un auténtico backbone de 120B, y no tienes objeciones a una dependencia de primera semana, esto es lo más fuerte en su clase de peso que haya aparecido este mes y la descarga es trivial. Si necesitas la configuración exacta con la que NVIDIA hizo el benchmark, o necesitas que la visión funcione al primer intento, o no puedes permitirte pasar una noche averiguando cuál de esos dos documentos es la autoridad, espera las evaluaciones de cuantización y los informes de la comunidad. Los pesos tienen cuatro días y el soporte de runtime, dos.