ZwZ2-9B vs Gemma 4 12B: Un modelo, una tarjeta de modelo, y cuál de ellos puedes lanzar realmente

Gemma 4 12B es público desde el 23 de mayo de 2026. Se distribuye con una tarjeta de modelo, un informe técnico, una suite de evaluación publicada, cinco tamaños hermanos y un recuento de descargas en el Hub que ha superado las 79.000 solo en el último mes. ZwZ2-9B es público desde el 16 de octubre de 2026 —hoy— como ocho archivos en un repositorio sin README, sin campo de licencia y sin etiqueta de pipeline. Ambos son más o menos del mismo tamaño. Ambos aceptan imágenes. Ambos declaran el mismo techo de contexto de 262.144 posiciones. Y no están ni de lejos en el mismo estado de preparación, que es la única comparación que importa si estás decidiendo dónde gastar una GPU.

La respuesta corta: Gemma 4 12B es un producto terminado de Google DeepMind, con cinco meses en los que otras personas ya han explorado sus límites. ZwZ2-9B es un checkpoint de inclusionAI que nadie fuera del laboratorio ha descrito todavía, incluido el propio laboratorio. Si necesitas lanzar algo este mes, la elección no está reñida y no es un comentario sobre los pesos. Si estás decidiendo sobre qué prototipar el mes que viene, lee los números de abajo y luego ejecuta tu propia evaluación, porque solo uno de estos dos modelos te ha dado algo que leer.

Las dos pilas, dimensión por dimensión

• Parámetros — ZwZ2-9B: 9.409.813.744 en bfloat16. Gemma 4 12B: 11,95 mil millones.

• Arquitectura — qwen3_5, un híbrido de atención lineal y completa. Gemma: gemma4_unified, sin codificador y unificado entre modalidades.

• Capas — 32 en ZwZ2-9B (24 de atención lineal, 8 de atención completa). 48 en Gemma 4 12B (40 de ventana deslizante a 1.024 tokens, 8 de atención completa).

• Techo de contexto — 262.144 posiciones declaradas por ambos.

• Vocabulario — 248,320 vs 262,144, con los de Gemma reservados para los IDs de tokens de imagen, audio y video.

• Modalidades en — texto, imagen y video para ZwZ2-9B. Texto, imagen, audio y video para Gemma 4 12B, cuya configuración incluye una torre de audio de 640 dimensiones.

• Licencia — ninguna declarada frente a Apache-2.0.

• Historial — cero descargas y dos me gusta frente a 79.565 descargas y 790 me gusta en el último mes.

Dos de esas líneas merecen una segunda mirada porque invierten una intuición. La primera es el calendario de atención: ZwZ2-9B es un modelo de 32 capas con 8 capas de atención completa, y Gemma 4 12B es un modelo de 48 capas con 8 capas de atención completa. Ambos apuestan a que la parte costosa de la atención debería ser poco frecuente; simplemente discrepan sobre cuán poco frecuente, en una capa de cada cuatro frente a una de cada seis. La segunda es el techo de contexto, donde un checkpoint de 9.4B sin documentación y un modelo insignia de 11.95B de DeepMind llegan exactamente al mismo número 262,144 — lo cual es una coincidencia de objetivos de diseño más que una relación entre ambos.

Donde Gemma 4 12B no solo está por delante, sino en una categoría diferente

El audio es lo primero. El modelo de Google recibe el sonido de forma nativa, con una torre de audio dedicada y ids de tokens de audio dentro de su vocabulario. El tokenizador de ZwZ2-9B también reserva <|audio_start|>, <|audio_end|> y <|audio_pad|> — pero su configuración no contiene ningún tipo de configuración de audio, por lo que esos tokens son vocabulario que heredó en lugar de una capacidad que posee. Si tu carga de trabajo incluye habla, este es el final de la comparación, y vale la pena ser preciso sobre por qué: no porque ZwZ2-9B obtuviera una puntuación peor, sino porque no hay nada en el checkpoint que pueda procesar una forma de onda.

La documentación es la segunda, y es la que se capitaliza. Gemma 4 12B viene con un informe técnico (arXiv 2607.02770), un conjunto de evaluación publicado que abarca desde el razonamiento al estilo GPQA hasta los benchmarks de visión, una licencia declarada y una nota de que el modelo está disponible en cinco tamaños para que puedas intercambiar capacidad por huella sin salir de la familia. A su alrededor, el Hub muestra 83 ajustes finos publicados, 49 cuantizaciones y 15 Spaces construidos sobre él. Ese ecosistema no es decoración. Es un conjunto de evidencia sobre cómo falla el modelo, producido por personas que no son de Google, y no hay sustituto para ello.

La cuestión de las licencias es la tercera, y es la menos glamurosa y la más decisiva. Gemma 4 12B es Apache-2.0. ZwZ2-9B no declara licencia alguna — ni abierta, ni personalizada, nada en los metadatos del repositorio. A falta de una declaración, la interpretación segura es que el editor se ha reservado sus derechos, y eso no es una cuestión que quieras descubrir que has entendido mal durante la adquisición. Un checkpoint que no puedes usar legalmente no es más barato que uno que sí puedes.

El único lugar donde ZwZ2-9B tiene un argumento estructural

No está en la calidad, que nadie puede medir todavía. Está en cómo la cosa gasta cómputo, y la configuración es inusualmente explícita al respecto.

Tres cuartos de las capas de ZwZ2-9B son atención lineal —24 de 32—, y cada una lleva un estado recurrente de tamaño fijo en lugar de una caché de clave-valor que crece con la conversación. La configuración nombra el mecanismo: 16 cabezas de clave y 32 cabezas de valor de dimensión 128, un núcleo de convolución de ancho 4 y un estado mantenido en float32 para estabilidad numérica. Solo cada cuarta capa realiza atención completa. Gemma 4 12B hace una apuesta similar con un mecanismo distinto —40 de sus 48 capas usan una ventana deslizante limitada a 1.024 tokens—, así que ambos modelos están diseñados para dejar de pagar el costo de la atención completa en la mayoría de las capas. Difieren en grado y en técnica, y sin benchmarks no hay una manera honesta de decir cuál gana. La intención de diseño es legible; el resultado no se ha medido.

La huella es la parte sencilla. 9,41 mil millones de parámetros frente a 11,95 mil millones es aproximadamente un quinto menos de peso que mantener antes de cuantizar nada, y la torre de visión es pequeña —27 capas con un tamaño oculto de 1.152 que se proyectan a 4.096—, por lo que el modelo encaja cómodamente en la misma clase de hardware que ejecutaría Gemma 4 12B.

The behavioural difference worth knowing is the reasoning default. ZwZ2-9B's chat template emits an empty <think></think> block unless you explicitly ask for thinking, so it answers directly out of the box. Gemma 4 12B offers thinking modes you configure. For extraction, classification or routing — the jobs where a second pass of reasoning is latency you did not want to pay for — only one of these is cheap by default.

Lo que ZwZ2-9B no puede decirte, y por qué eso decide la comparación

No puedes saber si es un modelo ajustado con instrucciones o un checkpoint base, porque su repositorio no tiene README ni etiqueta de pipeline, y ambos normalmente lo indicarían. El prompt de sistema integrado que apunta a las etiquetas <answer> es una prueba sólida de que se trata de un modelo de instrucciones entrenado, pero es una prueba, no una declaración.

No puedes saber con qué se entrenó, si la receta de percepción de grano fino que forjó el nombre de la familia ZwZ se conservó, ni para qué se supone que es bueno. No puedes saber su licencia. Y no puedes saber cómo se comporta en los casos límite, porque nadie fuera de inclusionAI lo ha ejecutado.

Pon eso junto a Gemma 4 12B, y la asimetría no es una cuestión de grado. Un modelo llega con un informe técnico y ocho meses de uso público; el otro llega con un config.json y una configuración predeterminada de pensamiento invertida. Eso es una razón para hacer prototipos, no una razón para descartar —los checkpoints no documentados son donde aparece por primera vez mucho trabajo interesante—, pero es una razón para ser honesto: la evaluación la harías tú mismo.

Una regla de decisión que no depende de la evidencia faltante

Elige Gemma 4 12B si se cumple alguna de estas condiciones: necesitas entrada de audio, necesitas una licencia que puedas mostrarle a un abogado, necesitas lanzar en menos de un trimestre o necesitas tamaños hermanos para que la misma suite de evaluación se transfiera hacia arriba y hacia abajo dentro de una familia. Las cuatro están resueltas.

Toma en serio a ZwZ2-9B si tienes una pregunta específica que un modelo de visión de 9.4B con atención híbrida y un modo predeterminado sin razonamiento podría responder mejor que uno por el que ya estás pagando, y estás dispuesto a medirlo tú mismo. Lo primero que hay que probar no es su inteligencia. Es si acepta las imágenes que realmente le envías, devuelve el formato que realmente necesitas y lo hace sin que un problema de licencia penda sobre el resultado.

Y no los compares en una tabla de benchmarks, porque la tabla solo tiene una columna. Podrías poner los números publicados de Gemma 4 12B al lado de un espacio en blanco y llamarlo una comparación, pero el espacio en blanco es el hallazgo. Cualquiera que presente esta semana un veredicto de calidad cara a cara sobre ZwZ2-9B se lo está inventando.

Ninguno de los dos checkpoints está en nuestro catálogo hoy, así que ninguno es algo que puedas invocar a través de nosotros en este momento — Gemma 4 12B es una descarga de Hugging Face y tu propio stack de servicio, y ZwZ2-9B también. Lo que sí servimos es el hermano que hace que la comparación de Gemma se pueda ejecutar sin cambiar cómo evalúas nada: Gemma 4 26B A4B, el miembro de mezcla de expertos de la misma familia, en un endpoint alojado a $0.06 por millón de tokens de entrada y $0.33 por millón de tokens de salida con el mismo contexto de 262K tokens. Como OrcaRouter transfiere los precios de lista del proveedor sin margen de beneficio (0 %), un cambio de precio del lado del proveedor llega aquí el mismo día en lugar de en la siguiente actualización del catálogo — lo cual importa cuando lo que estás haciendo es una comparación de costos entre un modelo que alojas y un modelo que alquilas. Al otro lado del cuadro, el sustituto alojado más cercano a lo que ZwZ2-9B intenta ser es qwen/qwen3-vl-8b-instruct, un modelo de visión-lenguaje de 8B con un contexto de 131K a $0.18 y $0.70, que está documentado, tiene licencia y está disponible ahora.

¿Qué cambiaría este artículo?

Una tarjeta de modelo. En concreto: una licencia, un párrafo sobre los datos de entrenamiento y una tabla de evaluación producida por alguien que no entrenó el modelo. Hasta entonces, el resumen honesto de ZwZ2-9B frente a Gemma 4 12B no es que uno sea mejor. Es que uno existe como producto y el otro existe como un listado de archivos, y la brecha entre esas dos cosas es la distancia más costosa en el aprendizaje automático.

Comparaciones como esta son también donde se manifiestan los modos de fallo: los incidentes de IA documentados y los fallos de agentes que hay detrás de los modelos de esta clase se recopilan en the OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, su gravedad, su grado de confianza y su indicador de disputa.