ZwZ2-4B vs ZwZ2-9B: misma profundidad, el doble de pesos, una diferencia de 1,8 puntos

La suposición obvia sobre un modelo de 4B y un modelo de 9B de la misma familia es que el más pequeño es menos profundo. ZwZ2-4B y ZwZ2-9B no lo son. Ambos declaran exactamente 32 capas de transformer. Ambos usan 16 cabezas de consulta frente a 4 cabezas de clave-valor con una dimensión de cabeza de 256. Ambos cuentan con el mismo vocabulario de 248.320 tokens y el mismo techo de contexto de 262.144 posiciones, y ambos ejecutan el mismo esquema de atención de lineal a completa de 3:1. El 9B no es un ZwZ2-4B más profundo; es uno más ancho, y una vez que se ve eso, el resto de esta comparación —incluida la propia brecha de puntuación del proveedor— deja de parecer una línea recta.

Los dos puntos de control también están cercanos en el tiempo y en el origen. ZwZ2-4B se creó el 15 de octubre de 2026, ZwZ2-9B el 16 de octubre, ambos por inclusionAI, ambos entrenados con el mismo pipeline sobre el mismo conjunto de datos de 20.662 preguntas de opción múltiple, y ninguno ha sido anunciado. Difieren en sus modelos base —Qwen3.5-4B y Qwen3.5-9B, respectivamente— y en el ancho de cada bloque que se deriva de ello.

El diff de configuración y lo que implica

Una lectura capa por capa de los dos archivos de configuración revela una diferencia estructural genuina y varias que se derivan mecánicamente de ella.

• Profundidad — 32 capas en ambos, idénticas

• Ancho oculto — 2.560 para el 4B frente a 4.096 para el 9B, un factor de 1,6

• Ancho de feed-forward — tamaño intermedio 9,216 vs 12,288

• Geometría de atención — 16 cabezas de consulta, 4 cabezas de clave-valor, dimensión de cabeza 256, en ambos

• Programación de atención — 24 capas lineales y 8 capas de atención completa, en ambos

• Contexto — 262.144 posiciones en ambos, M-RoPE en 11/11/10, rotary parcial 0,25

• Vocabulario — 248.320 tokens en ambos, embeddings vinculados en el 4B y no vinculados en el 9B

• Torre de visión — 24 capas con dimensión oculta de 1.024 frente a 27 capas con dimensión oculta de 1.152

• Predicción multi-token — cero capas MTP en ambos, con la cabeza especulativa eliminada de cada base

• Parámetros — 4.539.265.536 vs 9.409.813.744, un factor de 2,07

Dos de esas filas merecen una nota. Los embeddings no vinculados del 9B hacen que sus matrices de entrada y salida sean copias separadas de una tabla de 248.320 por 4.096; solo eso representa aproximadamente dos mil millones de parámetros, lo que explica en gran parte por qué la proporción de parámetros (2,07) supera la proporción de anchura (1,6). Y la torre de visión crece con la pila de lenguaje —27 capas con 1.152 dimensiones ocultas frente a 24 con 1.024—, así que el 9B ve la imagen a través de un codificador más ancho, no solo de un decodificador más ancho.

Las cifras: una ganancia mayor, un techo más bajo

inclusionAI publica un agregado por modelo: precisión global en 25 benchmarks de seis dominios, ponderados por igual. Según las propias cifras de la ficha, la familia se presenta así.

• ZwZ2-4B — base 49,41, ajustado 54,79, una ganancia de 5,38 puntos

• ZwZ2-9B — base 51.63, ajustado 56.59, una ganancia de 4.96 puntos

• ZwZ2-27B — base 55,52, ajustado 60,51, una ganancia de 4,99 puntos

Así que el 4B es el que más gana y termina último. El 9B gana menos y termina 1,80 puntos por encima. Ambas afirmaciones son ciertas, y cuál de las dos importa depende por completo de la pregunta que se haga. Si la pregunta es «cuánto aporta esta receta de entrenamiento», la respuesta es mayor en el 4B. Si la pregunta es «qué modelo es más preciso», la respuesta es el 9B, por 1,80 puntos, y ninguna forma de presentarlo cambia eso.

Todas estas son cifras reportadas por el proveedor sobre un conjunto de pruebas elegido por el proveedor. Nadie ha puntuado de forma independiente a ningún miembro de esta familia, y el detalle por prueba está en figuras, no en texto: un SVG y un PNG en cada tarjeta. La diferencia de 1,80 puntos es el resumen honesto de lo publicado; no es una medición que usted o yo hayamos visto reproducida.

¿Por qué la ganancia disminuye a medida que el modelo crece?

El patrón —5,38 en 4B, 4,96 en 9B, 4,99 en 27B— merece tomarse en serio en lugar de despacharlo con un gesto. Una receta de entrenamiento que añade capacidad a un modelo pequeño está llenando un vacío: el modelo base no tenía la capacidad ni la señal de entrenamiento para prestar atención a evidencia regional fina, y 20.000 preguntas de opción múltiple cuidadosamente filtradas le enseñan una habilidad que le faltaba. Un modelo base más grande ya tiene más de esa capacidad, así que el mismo plan de estudios tiene menos que aportar. El rendimiento marginal de los datos disminuye a medida que la base mejora.

Esa es la lectura benévola, y es la que respaldan los números. La lectura poco caritativa es que la suite de benchmarks tiene un techo o que la forma de tarea de cuatro opciones recompensa de manera desproporcionada a los modelos pequeños. Ambas lecturas son coherentes con las cifras publicadas, por lo que la diferencia de 1,80 puntos debería tratarse como una dirección más que como una magnitud.

Existe una tercera posibilidad que importa más para la adopción: la ganancia puede estar concentrada. «Mejora en cada benchmark» es lo que afirma la ficha, pero un promedio sobre 25 tareas ponderadas por igual puede ocultar dos grandes victorias y veinte pequeñas. Sin la tabla por benchmark —y no está en el texto— no se puede saber si el 5.38 del 4B es uniforme o si se concentra justo en las tareas de percepción de grano fino a las que apunta la receta. Si está concentrada, el modelo pequeño es un especialista y el 9B es el generalista, y el promedio es la estadística equivocada para elegir entre ambos.

El 27B es el experimento de control

El tercer tamaño hace que el argumento de la familia sea comprobable. ZwZ2-27B se basa en Qwen3.6-27B —una generación base distinta a la de sus dos hermanos— y registra una mejora de 4,99 puntos, esencialmente la misma que la del 9B, 4,96, y bastante por debajo de la del 4B, 5,38. Si el valor de la receta se debiera solo a la calidad de los datos, cabría esperar una mejora uniforme entre tamaños. En cambio, el 4B es la excepción. Eso es coherente con la explicación de la brecha de capacidad e incoherente con una explicación en la que los datos de entrenamiento son simplemente uniformemente excelentes.

El 27B también zanja una cuestión práctica sobre el lanzamiento de la familia. Los tres repositorios aparecieron con 23 horas de diferencia entre sí, el 4B primero y el 27B al final, lo que es la firma de un empuje por lotes en lugar de un despliegue por etapas. El conjunto de datos llegó después, el 19 de octubre. Las descargas indican dónde se fue la atención: cero para el 4B, 147 para el 9B, siete para el 27B. Nadie ha elegido todavía un favorito, y el tamaño intermedio es el único que alguien ha descargado.

Sirviendo: 9 GB frente a 18,8 GB

La aritmética aquí es simple y es el argumento más sólido a favor del modelo más pequeño. Los pesos de ZwZ2-4B son un archivo BF16 de 9,08 GB; los de ZwZ2-9B resultan en unos 18,8 GB con la misma precisión. En una tarjeta de 24 GB, el 4B deja espacio para una caché KV generosa y un lote; el 9B deja muy poco. En una tarjeta de 16 GB, el 4B cabe y el 9B no cabe en absoluto sin cuantización.

Ninguno de los dos modelos se sirve mediante un proveedor alojado —las páginas de Hugging Face no indican ningún proveedor de inferencia para ninguno de ellos—, así que ambos son decisiones de autoalojamiento. Si eliges entre ellos por motivos de hardware, el 9B pertenece a otra clase de máquina, no es una descarga un poco más grande. Ese es el significado práctico de la proporción de parámetros de 2,07×, y lo decide tu tarjeta gráfica, no la diferencia de precisión de 1,80 puntos.

Para los equipos que quieren el comportamiento de percepción sin tener que encargarse del problema del serving, el punto medio alojado del catálogo es qwen/qwen3-vl-8b-instruct a $0.18 por millón de tokens de entrada y $0.70 por millón de salida, con un contexto de 131K. No es el mismo modelo y este artículo no va a pretender que lo sea, pero es la comparación que la mayoría de los equipos realmente necesita, y funciona con la misma clave que todo lo demás que enruta OrcaRouter, con failover automático si un upstream se degrada.

Si estás creando una canalización por niveles en lugar de elegir un único checkpoint, la capa de enrutamiento es el lugar para expresarlo: envía cada imagen primero a un modelo económico y escala solo aquellas cuya confianza sea baja a algo más grande. El DSL de enrutamiento compone modelos en una sola llamada, así que la escalada es una regla en la ruta en lugar de una segunda integración. Ninguno de los checkpoints de ZwZ2 puede ser el nivel económico hoy —no están alojados—, pero el patrón es el que estos dos modelos están discutiendo implícitamente.

¿Cuál tomar?

Elige el 4B si tu tarjeta es de 16 o 24 GB, tu tarea es la evidencia visual fundamentada en regiones y quieres la mayor mejora medida respecto a un modelo base de esta familia.

• Usa el 9B si tienes margen de memoria y quieres la mayor precisión publicada para un checkpoint ZwZ2 por debajo de 27B. Los 1,80 puntos no son poca cosa.

• No adoptes ninguno de los dos todavía si necesitas una licencia que firme tu equipo legal. Ninguno de los dos repositorios declara una, y las tarjetas remiten a un archivo de licencia que no está presente.

• No tomes ninguno de los dos si necesitas un artículo. El método v2 no tiene documentación pública; el identificador de arXiv en ambas tarjetas pertenece al trabajo ZwZ de primera generación sobre una familia base diferente.

El experimento verdaderamente útil no es 4B frente a 9B en los 25 benchmarks de otra persona. Es ejecutar ambos —o ejecutar el 4B frente a su propia base— con unos cientos de imágenes de tu carga de trabajo real, y ver si el 5.38 se transfiere. Hasta que alguien lo haga, las cifras publicadas de la familia describen el comportamiento de una receta en un conjunto de tareas, no una decisión que puedas tomar sobre tu propio pipeline. El 4B es el interesante precisamente porque su ganancia es la mayor y su evidencia es la más escasa.