NVIDIA Nemotron Labs Dory 1.0 4B vs. Qwen 3.8: el 4B de pesos abiertos contra la línea de tres niveles de Alibaba

Comparar N​VIDIA N​emotron Labs Dory 1.0 4B con "Qwen 3.8" no es un enfrentamiento — es un desajuste de una manera específica e instructiva. Qwen 3.8 no es un solo modelo; en el extremo de pesos abiertos es Qwen3.8-27B, un modelo multimodal denso de 27B bajo Apache 2.0 con una ventana de 256K, y por encima de eso está Qwen3.8-Flash y Qwen3.8-Max, ambos más grandes, ambos servidos únicamente a través de la API de A​libaba. Dory es un único checkpoint de 4B, solo texto y solo inglés, de N​VIDIA, publicado en Hugging Face en cuatro cuantizaciones bajo la licencia OpenMDW 1.1 con su tarjeta marcada como "GA (10/16/2026)" y sin ningún anuncio detrás. Así que la verdadera pregunta no es si un 4B puede vencer a un 27B. Es si un 4B de profundidad elástica que alojas tú mismo es una forma más barata de alcanzar el nivel de tarea que de otro modo alquilarías de la línea Qwen3.8 — y los dos hechos más relevantes para la decisión son que Qwen3.8-27B es de pesos abiertos, por lo que ambos modelos se ejecutan en tu hardware, y que la propia tarjeta de Dory no incluye ninguna comparativa con ningún modelo Qwen3.8 en absoluto.

¿Qué se está comparando realmente?

Empieza por el lado de Qwen, porque «Qwen 3.8» colapsa tres proposiciones distintas.

Qwen3.8-27B es el modelo denso de visión-lenguaje con pesos abiertos de Alibaba, Apache 2.0, 27B de parámetros, 64 capas, dimensión oculta de 5.120, con un contexto nativo de 262.144 tokens que, según su ficha, es extensible hasta un millón. Acepta texto, imágenes y vídeo y devuelve texto, emplea una arquitectura híbrida de Gated DeltaNet y Gated Attention a lo largo de 16 bloques repetidos, y se distribuye en formato Transformers con soporte para vLLM, SGLang y TokenSpeed. Reporta 90,3 en LiveCodeBench v6, 89,2 en GPQA Diamond, 79,5 en IFBench y 73,0 en Terminal-Bench 2.1, dentro de una larga lista de resultados agénticos y de visión. Es público desde mediados de agosto de 2026 y se ha descargado varios millones de veces.

Qwen3.8-Flash y Qwen3.8-Max son los niveles alojados. Flash es el modelo multimodal optimizado en costes con un contexto de un millón de tokens; Max es el buque insignia de Alibaba, también de un millón de tokens, posicionado frente a los modelos propietarios más potentes. Ninguno tiene pesos abiertos. Se accede a ellos a través de una API.

N​VIDIA N​emotron Labs Dory 1.0 4B es el 4B. Denso, con bucles, latente-recurrente — un bloque de entrada de 8 capas, un bloque recurrente de 20 capas aplicado un número variable de veces, un bloque de salida de 8 capas — con atención híbrida intercalada de ventana deslizante y completa. Entra texto, sale texto, solo en inglés, contexto de 256K. Preentrenado con 6 billones de tokens, los primeros ~4,5 billones de ellos de forma nativa en NVFP4, más una extensión de contexto de 300 mil millones de tokens, y luego SFT y GRPO multi-entorno. No existe ningún endpoint alojado para él que podamos verificar.

Un punto que conviene aclarar, porque suele confundir a la gente: N​VIDIA distribuye Dory en BF16, MXFP8, NVFP4 y Q5_K_M GGUF. El id canónico del repositorio es el de MXFP8, pero los benchmarks de la tarjeta se midieron en BF16. MXFP8 es una cuantización de los mismos pesos, no un modelo diferente.

El contraste de especificaciones

• Parámetros — Dory 1.0 4B es un modelo denso de 4B, con un bloque recurrente aplicado repetidamente, de modo que el cómputo efectivo por token en cuatro bucles supera el número de parámetros. Qwen3.8-27B es un modelo denso de 27B con una torre de visión. No están en la misma clase de peso y solo uno de ellos cabe en un despliegue de memoria pequeña.

• Modalidad — Qwen3.8-27B acepta imágenes y video además de texto. Dory acepta texto. Cualquier carga de trabajo que incluya una imagen termina aquí.

• Contexto — ambos anuncian 256K. La ficha de Qwen3.8-27B dice 262.144 posiciones nativas, ampliables a aproximadamente un millón; la de Dory dice hasta 256K, con 262.144 validadas en vLLM con el comando de lanzamiento tal como se distribuye. Tanto Qwen3.8-Flash como Max alcanzan un millón de tokens directamente.

• Licencia — Apache 2.0 para Qwen3.8-27B, OpenMDW 1.1 para Dory. Ambas son compatibles con el uso comercial; Apache 2.0 es el texto más conocido.

• Idiomas — Qwen3.8-27B es multilingüe por linaje; Dory es solo inglés, con 43 lenguajes de programación en su mezcla de preentrenamiento.

• Comportamiento de cómputo — esta es la única fila en la que Dory tiene algo que Qwen3.8-27B estructuralmente no puede ofrecer. La profundidad de Dory es un parámetro en tiempo de servicio: un bucle para latencia, dos como el valor predeterminado recomendado por NVIDIA, cuatro cuando la precisión agéntica importa más, todo desde un único checkpoint, con un modo de caché KV en el último bucle pensado para mantener la memoria de caché aproximadamente en el tamaño de un bucle, independientemente del número de bucles. Qwen3.8-27B tiene profundidad fija; sus palancas son la cuantización y el hardware.

• Formatos — Dory ofrece cuatro cuantizaciones, incluida una GGUF para llama.cpp. Qwen3.8-27B tiene un repositorio FP8 aparte y un ecosistema derivado muy amplio de cuantizaciones y ajustes finos, que es lo que te dan varios millones de descargas.

La pregunta de benchmark que elude la propia tabla de N​VIDIA

Este es el detalle incómodo. La tabla de benchmarks de NVIDIA para Dory lo compara con Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B y Qwen3.6-35B-A3B. Usa las dos generaciones anteriores de Qwen y nunca recurre a Qwen3.8. Es una elección defendible para un 4B —Qwen3.8-27B es casi siete veces más grande—, pero significa que el fabricante no tiene ninguna comparación directa publicada con la generación actual de Qwen, en ningún sentido. La ficha de Qwen3.8-27B de Alibaba, por su parte, se compara con la vanguardia propietaria, no con un 4B.

Lo que sí publica la tarjeta de Dory, frente a sus comparadores más antiguos, es honesto sobre dónde compensa el bucle. Examina sus tres configuraciones de bucle frente a Qwen3.5-4B y Qwen3.5-9B:

• SWE-bench Verified — 50.3 / 59.5 / 61.8 frente a 54.7 y 61.0. A los cuatro bucles, Dory supera nominalmente al Qwen de 9B en esta fila.

• Terminal-Bench 2.1 — 12.5 / 18.1 / 22.2 frente a 15 y 24. Pierde contra ambos, incluido el 4B.

• τ³-bench (Banking) — 11.6 / 12.89 / 14.69 frente a 5.03 y 7.22. Dory más que duplica el Qwen de 4B y aproximadamente duplica el de 9B.

• GPQA Diamond, sin herramientas — 69.19 / 72.41 / 72.16 frente a 77.71 y 80.93. Pierde frente a ambos.

• IFBench — 74,29 / 77,94 / 79 frente a 53,83 y 59. Una gran victoria en el seguimiento de instrucciones.

• AA-LCR — 63 / 71 / 73 frente a 64.7 y 68.4. La recuperación de contexto largo mejora drásticamente con bucles y termina por delante.

• AA-Omniscience — 10.03 / 10.08 / 10.03 frente a 15.02 y 18.05. El conocimiento almacenado apenas varía con el número de bucles, lo cual es la prueba de cordura que el resto de la tabla supera.

Cada una de esas cifras es de N​VIDIA, medidas en el arnés de N​VIDIA, con recuentos de repeticiones divulgados — SciCode ocho ejecuciones, AA-LCR dieciséis, varios benchmarks exactamente una vez — y la tarjeta etiqueta sus puntuaciones al estilo de Artificial Analysis como «estimaciones internas» que pueden desviarse de las oficiales. Nada de eso se reproduce.

Ahora pon la tarjeta de Qwen3.8-27B a su lado. Sus 89,2 reportados en GPQA Diamond, 79,5 en IFBench y 73,0 en Terminal-Bench 2.1 están todos por encima de las mejores cifras de Dory en los mismos benchmarks, que es exactamente lo que cabría esperar de un modelo siete veces más grande con un pipeline de entrenamiento dos generaciones más nuevo. No hay ningún escenario en el que un 4B supere a un 27B bien ejecutado en un benchmark de conocimiento o razonamiento, y Dory no afirma que lo haga. Lo que Dory afirma es otra cosa: que con 4B alcanza un comportamiento agéntico de aproximadamente la clase de 9B, y que tú puedes elegir cuánto cómputo gastar a esa escala.

Despliegue: la brecha no está cerca, y no es cuestión de calidad

Qwen3.8-27B es un lanzamiento normal de pesos abiertos. Formato Transformers, soporte listado para vLLM, SGLang y TokenSpeed, una variante hermana en FP8, y un ecosistema que ha producido bastante más de mil cuantizaciones y cientos de ajustes finos desde agosto. Si tu stack ejecuta modelos modernos de pesos abiertos, ejecuta este, y la única restricción real es la memoria: un modelo denso de 27B en BF16 no es para máquinas pequeñas, pero las variantes cuantizadas existen precisamente para eso.

Dory es lo contrario. El soporte para vLLM está en revisión en un pull request abierto; hasta que se fusione, N​VIDIA te indica que instales vLLM desde esa rama con el flag de kernel precompilado y luego lo inicies con overrides que configuren el número de bucles recurrentes y el modo de caché KV. El soporte para llama.cpp está en un segundo pull request abierto con un commit fijado e instrucciones de compilación para macOS ARM64. No hay ningún endpoint alojado para Dory en ningún lugar que podamos verificar, y los contadores de descargas de los cuatro repositorios estaban a cero cuando se escribió esto. Las cifras de velocidad publicadas se limitan a las aceleraciones por cuantización en un DGX Spark — 1,69× y 1,84× para MXFP8 sobre BF16, 2,17× y 2,44× para NVFP4, según la combinación de longitudes de entrada/salida — no de rendimiento.

Frente a eso, la afirmación sobre la memoria en la tarjeta de Dory es la única pieza de ingeniería que podría justificar el inconveniente. El bucle recurrente estándar almacena una caché KV separada por cada bucle, por lo que la memoria crece con cada pasada. El modo de caché KV del último bucle de Dory mantiene una caché por cada capa de atención recurrente y la sobrescribe en cada pasada, manteniendo la huella aproximadamente en el tamaño de un solo bucle para cualquier número de bucles, con una precisión que, según NVIDIA, se mantiene cercana a la del modo por bucle. Si eso se sostiene bajo la medición de otra persona, un 4B con una ventana de 256K y cuatro bucles se vuelve práctico en hardware que de otro modo no podría costearlo. Nadie fuera de NVIDIA lo ha comprobado.

Dónde se sitúa realmente OrcaRouter en esta comparación

Esta es la rara comparación en la que podemos ser específicos, porque los dos lados están en una situación diferente aquí. El lado de Qwen está en nuestro catálogo: qwen/qwen3.8-27b está autoalojado en la propia infraestructura de OrcaRouter, y qwen/qwen3.8-flash y qwen/qwen3.8-max son accesibles como endpoints alojados, todo a través de una única clave de API al precio de lista del proveedor con 0% de margen. El lado de NVIDIA no lo está — NVIDIA Nemotron Labs Dory 1.0 4B no está en el catálogo y no tiene ningún endpoint alojado en ningún lugar que podamos confirmar.

Esa asimetría es genuinamente útil en lugar de incómoda. El argumento a favor de un modelo pequeño autoalojado es un argumento de coste, y un argumento de coste necesita el precio de alquiler contra el que está argumentando. Los tres niveles de Qwen3.8 tienen precios muy diferentes — 27B a $0.33 por millón de tokens de entrada y $2.40 por millón de salida, Flash a $0.15 y $0.47, Max a $2.00 y $6.00 — así que la versión honesta de «¿puede un 4B reemplazar esto?» tiene tres respuestas diferentes según el nivel que estés usando realmente hoy. Una sola clave de OrcaRouter llega a los tres, así que calcular el precio de esa pregunta no requiere tres cuentas. Como transferimos el precio de lista del proveedor sin recargo, un cambio de precio de Qwen llega aquí el mismo día. Y cuando eliges un nivel, la conmutación automática por error entre proveedores y el DSL de enrutamiento — que te permite componer modelos detrás de una sola llamada — hacen que el cambio de un Qwen alojado a un Dory autoalojado, o viceversa, sea un cambio de configuración en un único punto de llamada en lugar de una refactorización. No servimos Dory; somos la forma barata de medir lo que reemplazaría.

El veredicto

Si tu carga de trabajo es multimodal, multilingüe o intensiva en conocimiento —cualquier cosa en la que el modelo necesite saber cosas en lugar de hacer cosas—, Qwen3.8-27B es la respuesta de pesos abiertos y la comparación no es competitiva. Es siete veces más grande, dos generaciones más nuevo, está respaldado por un gran ecosistema de derivados, funciona en motores que ya lo admiten, y su propia ficha declara cifras que Dory ni siquiera se acerca a alcanzar en GPQA o en los benchmarks de instrucciones. Alquila Flash o Max en su lugar si prefieres no alojar un 27B en absoluto.

Dory 1.0 4B es una apuesta por un eje diferente. Vale la pena la fricción de construir desde una rama solo si tres cosas son ciertas para ti: la tarea es solo de texto y solo en inglés, es agéntica en lugar de estar impulsada por conocimiento, y realmente usarías un dial de cómputo —ejecutando un bucle bajo carga y cuatro cuando importa la precisión, desde un solo checkpoint, sin una segunda descarga. Su ficha afirma que esa apuesta rinde en τ³-Bench y en el seguimiento de instrucciones a 4B, y revela lo suficiente sobre cómo se produjeron esos números como para que puedas descontarlos adecuadamente.

Lo que lo zanjaría es la prueba que nadie ha hecho: Dory 1.0 4B frente a Qwen3.8-27B en un arnés de pruebas compartido, con la misma cuantización, en un conjunto de tareas agénticas. La tabla de NVIDIA se salta por completo la generación actual de Qwen, y la tabla de Alibaba no baja a una categoría de peso inferior. Hasta que alguien publique esa comparación, la posición precisa es que uno de estos modelos es un 27B probado, respaldado y ampliamente desplegado, y el otro es un repositorio de 4B que apareció de la noche a la mañana con una idea interesante dentro —y la única persona que puede decir si vale la pena construirla eres tú, en tu conjunto de tareas.

Nada de eso es hipotético: los fallos documentados de IA y los incidentes de agentes detrás de lanzamientos como este se recopilan en el OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, severidad, grado de confianza e indicador de disputa.