NVIDIA Nemotron Labs Dory 1.0 4B llegó a Hugging Face con cuatro checkpoints y sin anuncio

N​VIDIA N​emotron Labs Dory 1.0 4B está en Hugging Face ahora mismo, en cuatro cuantizaciones, y N​VIDIA no ha dicho una palabra al respecto. El checkpoint nvidia/N​VIDIA-N​emotron-Labs-Dory1.0-4B-MXFP8 se publicó con una tarjeta de modelo que marca la compilación como «GA (10/16/2026)»; sus tres hermanos — N​VIDIA-N​emotron-Labs-Dory1.0-4B-BF16, N​VIDIA-N​emotron-Labs-Dory1.0-4B-NVFP4 y N​VIDIA-N​emotron-Labs-Dory1.0-4B-GGUF — se publicaron dentro de la misma ventana de 36 minutos a ambos lados de la medianoche UTC del 16 al 17 de octubre de 2026. No hay una publicación correspondiente en el blog para desarrolladores de N​VIDIA, ni una entrada en la página de inicio de investigación de N​emotron, ni referencia alguna a un modelo llamado Dory en ninguna de las dos. La tarjeta en sí es inusualmente completa —una tabla completa de benchmarks, instrucciones de servicio para dos motores, una suma de comprobación—, pero el andamiaje de marketing alrededor de ella, eso que normalmente te dice que un modelo existe, está totalmente ausente.

Por eso vale la pena ser precisos sobre lo que eso te autoriza a decir y lo que no. Lo que puede saberse: los pesos existen, se pueden descargar, la licencia está declarada, la arquitectura se describe con suficiente detalle como para reproducirla, y el proveedor publicó sus propias cifras junto con una nota de que fue él mismo quien las midió. Lo que aún no está confirmado: si esto es el inicio de una familia de N​emotron Labs o un experimento aislado, si viene un artículo académico o una entrada de blog, y si las cifras se sostienen bajo el harness de cualquier otra persona. N​VIDIA no ha presentado esto como un lanzamiento, así que este texto tampoco. Es una lectura de un repositorio que apareció de la noche a la mañana.

¿Qué hay realmente en el repositorio?

Los artefactos son cuatro checkpoints y una tarjeta de modelo. La tarjeta es el documento sustantivo, y es de donde proviene casi todo lo que aparece a continuación.

• Formatos — BF16 (W16A16), MXFP8 (W8A16), NVFP4 (W4A16) y una exportación Q5_K_M GGUF para llama.cpp. El checkpoint MXFP8 es el tema de este artículo solo porque es el que lleva el id canónico del repositorio; los benchmarks de la tarjeta se midieron en BF16.

• Tamaño y forma — 4B parámetros totales, una pila densa en lugar de una mezcla de expertos, dividida en un bloque de entrada de 8 capas, un bloque recurrente de 20 capas y un bloque de salida de 8 capas.

• Contexto — hasta 256K tokens, con 262.144 posiciones validadas en vLLM bajo el comando de lanzamiento que NVIDIA incluye en la tarjeta.

• Licencia — OpenMDW 1.1, una licencia de modelo permisiva y redistribuible cuyo texto está enlazado desde la tarjeta. La tarjeta afirma claramente que el modelo está "listo para uso comercial o no comercial".

• Idioma — solo inglés, aunque los datos de preentrenamiento abarcan 43 lenguajes de programación.

• Presupuesto de entrenamiento — 6 billones de tokens de preentrenamiento, de los cuales aproximadamente los primeros 4,5 billones se ejecutaron de forma nativa en NVFP4 antes de que el resto cambiara a BF16, a lo que siguió una fase de extensión de contexto de 300 mil millones de tokens. Los datos abarcan de 2013 a diciembre de 2025. El post-entrenamiento consiste en un ajuste fino supervisado sobre un conjunto curado por NVIDIA y, después, aprendizaje por refuerzo en múltiples entornos con GRPO.

• Actividad del repositorio — ocho commits en `main` y dos colaboradores en el momento de escribir esto, siendo el más reciente una edición del README. El primero, «Subida del checkpoint y del tokenizador de Dory 4B MXFP8», es de hace unas horas. Este no es un repositorio que haya estado meses ahí en público sin llamar la atención y que se haya descubierto justo ahora; es uno que se pobló hoy.

Un detalle que la ficha hace bien y la mayoría de las fichas no: indica el tamaño exacto en bytes y el SHA-256 de la exportación GGUF para que puedas verificar lo que descargaste. 3.673.288.864 bytes, con el hash impreso en las instrucciones de lanzamiento.

La arquitectura es toda la razón para que importe

Si quitamos la tabla de benchmarks, el dato interesante sobre N​VIDIA N​emotron Labs Dory 1.0 4B es que no es un único modelo fijo. Es una red con bucles, o recurrente latente: el bloque recurrente de 20 capas se aplica repetidamente entre los bloques de entrada y salida, y la entrada se reinyecta en cada bucle. Por lo tanto, el mismo checkpoint se comporta de forma diferente según cuántos bucles pidas, y eso se elige en el momento del servicio, no en el de entrenamiento.

Se derivan tres consecuencias, todas ellas de la tarjeta del modelo y no de las pruebas de nadie:

• Cómputo de inferencia elástico — un solo archivo de pesos sirve para varios presupuestos de cómputo. Recuento de bucles 1 para latencia, 2 como valor predeterminado recomendado, 4 cuando la precisión en tareas agénticas importa más que los tokens por segundo. Sin reentrenamiento, sin un segundo checkpoint que descargar y mantener sincronizado.

• Eficiencia de tokens — NVIDIA afirma que el cómputo adicional por token se destina al razonamiento latente en lugar de a una cadena de pensamiento visible más larga, por lo que un mayor número de iteraciones puede producir menos tokens de salida para la misma tarea. La tarjeta incluye un gráfico de factor de tokens de salida para respaldar esa afirmación. Esa afirmación tiene una consecuencia directa en el costo, que es la razón por la que vale la pena señalarla en lugar de descartarla.

• Bucle eficiente en memoria — este es el que responde a la objeción obvia. El bucle estándar mantiene una caché KV separada por cada bucle, así que la memoria crece con cada pasada añadida. Dory admite un modo de caché KV de último bucle que mantiene una sola caché por capa de atención recurrente y la sobrescribe en cada pasada, manteniendo el uso de memoria en aproximadamente el tamaño de un solo bucle sin importar cuántos bucles ejecutes. N​VIDIA dice que la precisión con la caché de último bucle se mantiene cerca de la de la caché por bucle, con longitudes de salida casi sin cambios, y lo describe como su propio resultado experimental.

La pila de atención es híbrida: capas intercaladas de ventana deslizante y de atención completa, el mismo patrón general al que ha convergido la generación de 2026 de modelos pequeños de contexto largo. Nada de esto es exótico por sí solo. Lo menos común es incluir el recuento de bucles como un parámetro de despliegue en un modelo de 4B con una ventana de 256K.

La tabla de referencia, leída como una tabla de proveedor

Todas las cifras que aparecen aquí fueron producidas por NVIDIA bajo lo que la ficha llama "un arnés consistente (NeMo Gym / Nemo Evaluator SDK)". Ninguna parte externa ha reproducido nada de esto, el modelo tiene aproximadamente un día de vida y los contadores de descargas de los cuatro repositorios marcan cero. Trata las cifras como una afirmación sobre la dirección, no como un marcador.

El conjunto de comparación que eligió N​VIDIA es revelador en sí mismo: Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B y Qwen3.6-35B-A3B. Cabe destacar que los dos comparadores de la clase de 4B son de la generación anterior de Q​wen, y todos los demás comparadores son sustancialmente más grandes. Revisa los tres ajustes de bucle:

• SWE-bench Verified — 50,3 con un bucle, 59,5 con dos, 61,8 con cuatro, frente a 54,7 para Qwen3.5-4B, 61,0 para Qwen3.5-9B, 57,40 para Gemma 4 26B A4B y 73,4 para Qwen3.6-35B-A3B.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 frente a 15, 24, 35 y 43. Esta es la fila en la que el bucle rinde más y en la que Dory sigue estando más rezagada respecto al resto.

• τ³-bench (Banca) — 11,6 / 12,89 / 14,69 frente a 5,03 para Qwen3.5-4B, 7,22 para Qwen3.5-9B, 13,66 para Gemma 4 26B A4B y 9,54 para Qwen3.6-35B-A3B. Dory lidera aquí los modelos Qwen de 4B y 9B por un amplio margen.

• GDPval-AA-V2 (Elo) — 815 / 946 / 967 frente a 424, 546, 751,6 y 987. El salto de un bucle a dos es de 131 puntos Elo, que es el mayor movimiento entre bucles de toda la tabla.

• GPQA Diamond, sin herramientas — 69.19 / 72.41 / 72.16 frente a 77.71, 80.93, 80.43 y 85.35. Dory pierde esta ante todos los comparadores, incluido el Q​wen de 4B.

• HLE, solo texto, sin herramientas — 8,25 / 10,89 / 10,43 frente a 11,31, 15,43, 17,79 y 19,18. La misma historia.

• IFBench — 74.29 / 77.94 / 79 frente a 53.83, 59, 77.89 y 57.44. El seguimiento de instrucciones es el resultado relativo más fuerte de Dory; con cuatro bucles supera por poco al Gemma 4 de 26B.

• AA-LCR — 63 / 71 / 73 frente a 64,7, 68,4, 64,6 y 68,5. La recuperación de contexto largo mejora notablemente con bucles y acaba por delante de los cuatro comparadores.

• AA-Omniscience (precisión) — 10.03 / 10.08 / 10.03 frente a 15.02, 18.05, 21.13 y 19.95. Hacer loop no aporta esencialmente nada al conocimiento almacenado, que es el resultado esperado y una útil comprobación de cordura del resto de la tabla.

Lo que importa es la forma del patrón. La repetición de bucles aporta más en tareas de agentes y de uso de herramientas, menos en el recuerdo enciclopédico, y el segundo bucle vale mucho más que el tercero y el cuarto en todos los casos. Esto concuerda con la recomendación de la propia tarjeta de usar dos bucles de forma predeterminada.

Cuatro salvedades que se encuentran en las propias notas al pie de NVIDIA

Aquí es donde la tarjeta es más honesta que la mayoría, y donde un lector que se limite a hojear la tabla se dejaría engañar.

• Las cifras de AA no son cifras de Artificial Analysis. La comparación de NVIDIA con un índice de puntuación de AA está etiquetada explícitamente como "estimaciones internas calculadas bajo un entorno de evaluación coherente" que "pueden desviarse de las puntuaciones oficiales de Artificial Analysis (AA)". Son una medición interna comparable, no una clasificación externa.

• La columna de contexto largo usa una configuración híbrida. Para AA-LCR, la tarjeta dice que usó claves de respuesta corregidas de AA-LCR v1.1, pero mantuvo un modelo juez más antiguo en lugar del más nuevo. Mezclar un conjunto de claves corregidas con un juez más antiguo hace que esa columna sea comparable con las otras filas de NVIDIA y no necesariamente comparable con las de nadie más.

• Los números de repeticiones son un desastre. SciCode se ejecuta ocho veces, AA-LCR dieciséis, AA-Omniscience diez, GDP.pdf cinco, y HLE, Terminal-Bench 4.0 y las variantes de GDPval-AA se ejecutan una sola vez. Una única ejecución en un benchmark con varianza significativa es una estimación puntual, no una puntuación.

• Una fila de la tabla está marcada con una daga como una cifra reportada en lugar de medida —el 73,4 de Qwen3.6-35B-A3B en SWE-bench Verified. Lo que significa que el número que parece más grande de la tabla es el que NVIDIA no ejecutó por sí misma.

Nada de esto hace que la tabla sea incorrecta. La convierte en una instantánea interna de un solo laboratorio, y la lectura honesta es que Dory se muestra genuinamente competitivo con los modelos de 4B y 9B de la generación anterior de Qwen en tareas agénticas, aunque se queda por detrás de los modelos de 26B y 35B junto a los que se sitúa.

Lo que puedes ejecutar hoy, y lo que no

No hay ningún endpoint alojado para este modelo que podamos verificar, ni de N​VIDIA ni de nadie más. Dory es solo pesos, y ambas rutas de servicio en la tarjeta requieren compilarse a partir de una pull request sin fusionar:

• vLLM — el soporte está "en revisión" en la solicitud de extracción 60149. Hasta que llegue a una versión, instalas vLLM desde esa rama y luego lo sirves con sobrescrituras que establecen el recuento de bucles y el modo de caché KV. La tarjeta señala que el flag de entorno del kernel precompilado evita una compilación local de CUDA.

• llama.cpp — el soporte se encuentra en el pull request 30306, y la tarjeta fija una revisión específica en lugar del head móvil del PR, lo cual es el instinto correcto para una configuración de referencia. Las instrucciones están orientadas a macOS ARM64 nativo en Apple Silicon, y la ruta de GGUF espera la exportación Q5_K_M con el tamaño en bytes impreso arriba.

Nada en la tarjeta sugiere que alguno de los dos proyectos se haya fusionado, y no hay ninguna entrada en las notas de la versión de ninguno de los motores que sugiera lo contrario. Si quieres ejecutar Dory esta semana, estarás compilando desde un PR.

Notas de hardware que vale la pena conservar: NVIDIA probó en H100, B200, B300 y DGX Spark, y las únicas cifras de velocidad publicadas son aceleraciones por cuantización en el Spark en lugar de cifras de rendimiento. En ese dispositivo, MXFP8 muestra 1,69× y 1,84× frente a BF16 según la combinación de longitudes de entrada/salida, y NVFP4 alcanza 2,17× y 2,44×. El muestreo recomendado es temperatura 1,0 con top-p 0,95, y el razonamiento siempre está activado en la ruta de vLLM.

Por qué un lanzamiento discreto de 4B todavía merece tu tarde

Lo interesante de un modelo que llega sin un lanzamiento es que su afirmación es comprobable de una forma en que la afirmación de un lanzamiento no lo es. No hay una presentación principal que afirme una victoria en la categoría; hay una ficha que afirma un mecanismo específico y falsable: que un único checkpoint de 4B escala su propia exactitud con cómputo en tiempo de inferencia. Puedes probarlo en una sola GPU con el indicador de recuento de bucles, y la respuesta o es visible en tu propia evaluación o no lo es.

Esa es también la situación para la que se construye una capa de enrutamiento, y merece la pena ser precisos sobre lo que hacemos aquí en lugar de hacer gestos al respecto. OrcaRouter no sirve N​VIDIA N​emotron Labs Dory 1.0 4B — el modelo no está en nuestro catálogo y no hay ningún endpoint alojado para él en ningún lugar que podamos confirmar. Lo que una sola clave sí te da es la otra mitad de la comparación: los modelos alojados con los que compararías un 4B autoalojado son accesibles a través de una sola API al precio de lista del proveedor con 0% de margen, así que un experimento autoalojado no necesita un segundo contrato ni un segundo SDK. La conmutación automática por error cubre la ventana en la que tu propio grupo de GPU está saturado, y el DSL de enrutamiento permite que una llamada autoalojada se sitúe junto a las alojadas detrás de un solo endpoint. Si estás probando si la profundidad elástica merece la complejidad operativa, al menos el grupo de control está a una clave de distancia.

¿Qué haría que esto se convirtiera en una historia real?

Tres cosas, ninguna de ellas presente todavía.

Primero, un anuncio. La tarjeta está fechada el 16 de octubre y los repositorios se poblaron durante la noche; el feed para desarrolladores de NVIDIA publicó una entrada de Nemotron el 15 de octubre que trataba sobre un modelo completamente distinto. En cualquier momento podría aparecer una entrada de blog, un artículo o una página de la familia Nemotron Labs, y probablemente incluiría los detalles de entrenamiento y el rol previsto del modelo que la tarjeta deja implícitos.

Segundo, soporte para motores. Tanto vLLM como llama.cpp están en pull requests sin fusionar. El día en que cualquiera de los dos se fusione, «puedes ejecutarlo» dejará de significar «puedes compilarlo desde una rama».

Tercero, y más valioso, una evaluación independiente. Las afirmaciones que más vale la pena reproducir son las que el proveedor destacó: la variación de SWE-bench y Terminal-Bench según el número de iteraciones, y la afirmación de que el almacenamiento en caché KV del último bucle preserva la precisión. Ambas son verificables con herramientas publicadas, y ninguna ha sido probada por nadie fuera de NVIDIA.

El resumen preciso hoy es este: pesos reales en cuatro formatos, una licencia permisiva, una arquitectura genuinamente inusual, una ruta de servicio que existe solo como dos pull requests abiertos, y una hoja de resultados de referencia que es el propio banco de pruebas de un laboratorio con las advertencias impresas en sus propias notas al pie. Es el modelo de 4B más interesante que N​VIDIA ha publicado este año y la empresa aún no ha decidido contárselo a nadie.

Nada de eso es hipotético: los fallos documentados de IA y los incidentes de agentes detrás de lanzamientos como este se recopilan en el OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, severidad, grado de confianza e indicador de disputa.