Una tarjeta de título generada para el artículo, encabezada por 'ZwZ2-9B vs MathForm-8B' con el subtítulo 'ambas de 4.096 de ancho, solo una documentada' y dos tarjetas redondeadas, la izquierda etiquetada como 'MathForm-8B' con las líneas 'ajuste fino de Qwen3-8B' y 'artículo, conjunto de datos, resultados Pass@8', la derecha etiquetada como 'ZwZ2-9B' con las líneas 'derivado de Qwen3.5-9B' y 'solo archivo de configuración'. Un pie de página dice 'Mismo ancho de tronco, distintas cantidades de evidencia'. El logotipo de OrcaRouter está compuesto en la franja blanca debajo de la ilustración.
Guides & Insights

ZwZ2-9B vs MathForm-8B: Mismo tronco, dos cantidades de verdad muy diferentes

Autor

Alistair Wren

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

Dos modelos publicados con ocho semanas de diferencia, de dos laboratorios distintos, construidos sobre dos generaciones diferentes de la misma familia — y sus troncos tienen el mismo ancho. MathForm-8B, publicado por OpenBMB el 14 de agosto de 2026 como un ajuste fino de Qwen3-8B, tiene 36 capas con un tamaño oculto de 4.096 y un tamaño intermedio de 12.288. ZwZ2-9B, publicado por inclusionAI el 16 de octubre de 2026 sobre el stack Qwen3.5-9B, tiene 32 capas con un tamaño oculto de 4.096 y un tamaño intermedio de 12.288. Con generaciones matrices distintas de por medio, vocabularios de 151.936 y 248.320, trabajos completamente diferentes — y la misma geometría de tronco de 4.096 por 12.288 en ambos. Lo que los separa no es la arquitectura. Es que uno de ellos viene con un artículo, un conjunto de datos, un arnés de evaluación y una licencia, y el otro viene con ocho archivos.

La versión breve: si puedes describir tu problema como «convertir esta prosa en Lean 4», MathForm-8B es un especialista documentado con cifras publicadas y deberías usarlo. Si tu problema implica píxeles y quieres un modelo general de visión-lenguaje, ZwZ2-9B es un checkpoint de 9,4B que nadie ha caracterizado, y adoptarlo significa convertirte en su primer evaluador. La parte interesante de la comparación es lo que esa asimetría enseña sobre cuánto vale una herencia compartida.

Dos descendientes, con una generación de diferencia

MathForm-8B es un derivado de Qwen3-8B y lo dice abiertamente: su ficha registra el modelo base, el conjunto de datos de entrenamiento, el método de entrenamiento y el artículo. La configuración es un diseño de Qwen3 de manual: 36 capas, 32 cabezas de consulta frente a 8 cabezas de clave-valor con dimensión de cabeza 128, un vocabulario de 151.936 tokens, un límite de 40.960 posiciones, base rotatoria 1.000.000 y atención completa en todas las capas. Nada exótico, nada oculto.

ZwZ2-9B es un derivado de Qwen3.5-9B que lo indica únicamente mediante una sola etiqueta de Hub. Su configuración se resuelve en Qwen3_5ForConditionalGeneration, y cada valor arquitectónico coincide con Qwen3.5-9B excepto una capa de predicción multi-token eliminada. El vocabulario de 248,320 tokens, el límite de 262,144 posiciones, el M-RoPE entrelazado y la torre de visión se heredan sin cambios.

• Parámetros — ZwZ2-9B: 9.409.813.744. MathForm-8B: 8 mil millones, según su ficha.

• Padre — Qwen3.5-9B vs Qwen3-8B, por lo que ambos heredan diseños de atención distintos de distintas generaciones de Qwen.

• Atención — 24 capas de atención lineal más 8 capas de atención completa frente a atención completa en las 36 capas.

• Geometría del tronco — tamaño oculto 4.096 y tamaño intermedio 12.288 en ambos.

• Vocabulario — 248.320, con los ids de token de imagen y vídeo dentro, frente a 151.936 y solo texto.

• Límite de contexto — 262.144 posiciones frente a 40.960.

• Modalidades en — texto, imagen y vídeo frente a solo texto.

• Evidencia publicada — un archivo de configuración frente a un artículo, un conjunto de datos, una canalización de evaluación y los términos de Apache-2.0.

Lo que MathForm-8B aporta

La ficha es inusualmente completa, y merece la pena recorrerla porque el contraste posterior depende de ella. MathForm-8B traduce enunciados matemáticos en lenguaje natural a Lean 4. Se entrenó con FormalVerse —un conjunto de datos que OpenBMB publicó junto con él— mediante ajuste fino supervisado y luego aprendizaje por refuerzo, con la compilación de Lean y la retroalimentación de coherencia semántica proporcionando la señal de recompensa. El artículo es MathForm: Scaling Mathematical Autoformalization with Knowledge Retrieval and Verification-Guided Refinement, arXiv 2608.14221, y el repositorio incluye el pipeline de evaluación, los archivos del benchmark y los scripts de Pass@k.

Los resultados se reportan como tasas de aprobación Pass@8 bajo dos criterios separados: una comprobación de sintaxis, que significa que el Lean generado realmente compila, y una comprobación de consistencia, que significa que compila y dice lo mismo que el problema original. En seis benchmarks, la tarjeta reporta un promedio macro de 88,06 en sintaxis y 72,37 en consistencia, por delante de los otros autoformalizadores de 8B que enumera y por delante de varias entradas de 32B en la columna de sintaxis. Esa última comparación es el tipo de afirmación que vale la pena poner a prueba en lugar de repetir, y hay un detalle en la configuración que hace que probarla no sea trivial: las comprobaciones de compilación requieren un Kimina Lean Server en ejecución, y los experimentos usaron Lean 4.21.0. Este no es un checkpoint que puedas puntuar con un script de Python.

Todos los números anteriores los reporta el proveedor. OpenBMB ejecutó la evaluación, OpenBMB la publicó, y el repositorio sí incluye los scripts para reproducirla, lo cual es más de lo que ofrecen la mayoría de los laboratorios y es la razón por la que los números valen algo incluso sin verificar. La tarjeta también publica sus ajustes de generación recomendados, temperature 0.6 y top-p 0.95, que es el tipo de pequeño detalle operativo que un modelo sin tarjeta te deja adivinar.

A screenshot of the OpenBMB MathForm-8B model card on Hugging Face showing 9 likes, tags for Text Generation, Transformers, Safetensors, the openbmb/FormalVerse dataset, English, qwen3, lean4, autoformalization, mathematics, formal-verification, reasoning and Apache 2.0 licensing, a model size of 8B parameters in BF16, a Downloads last month figure of 532, a figure showing a five-stage data construction and training pipeline covering formalization generation, verification, refinement, trajectory reconstruction and training, and a partial Pass@8 results table headed by an AVG column and benchmark columns for FormalMATH, ProverBench, CombiBench and three more.

Lo que ZwZ2-9B pone sobre la mesa

Un config.json, un tokenizer_config.json, una plantilla de chat y 18,8 GB de pesos. No hay README, ni campo de licencia, ni etiqueta de pipeline, ni conjunto de datos. El Hub informa de cero descargas y dos «me gusta», y ninguna colección de inclusionAI lo contiene.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

Lo que nada de eso te dice es para qué es bueno el modelo, con qué se entrenó, si es un modelo de instrucciones o algo distinto, o bajo qué términos puedes usarlo. MathForm-8B responde a las cuatro preguntas en su primera pantalla. ZwZ2-9B no responde a ninguna de ellas en ninguna parte.

El 4,096 compartido no es una coincidencia, y no es un atajo

Ambos modelos usan un tronco de 4.096 de ancho con un tamaño intermedio de 12.288, y la razón es la misma en ambos casos: una generación de Qwen de ese tamaño. Qwen3-8B y Qwen3.5-9B son diseños diferentes —atención completa en todo el modelo frente a una mezcla de tres a uno de atención lineal y completa—, pero ambos están construidos sobre el mismo ancho, porque eso es lo que es un Qwen pequeño. Ver cómo un fine-tune hereda cada dimensión de su progenitor es la evidencia más clara de la que se dispone de que los fine-tunes heredan las propiedades de su progenitor en su totalidad: las fortalezas y los modos de fallo, no solo la forma. MathForm-8B te dice de qué progenitor proviene, así que puedes ir a leer sobre él. ZwZ2-9B no lo hace, y la etiqueta del Hub es el único hilo de vuelta.

A generated comparison scoreboard card titled 'ZwZ2-9B vs MathForm-8B — the scoreboard' with two columns of six matching rows: Parameters 9.41B vs 8B, Parent Qwen3.5-9B vs Qwen3-8B, Trunk 4,096 by 12,288 vs 4,096 by 12,288, Modalities text, image and video vs text only, Context 262,144 vs 40,960, and Evidence config file vs paper, dataset and results. The footer reads 'The right-hand column is vendor-reported from the published model card; the left-hand column is read from the published configuration.' The OrcaRouter logo is composited in the white strip below the artwork.

Cuál realmente necesitas

Estos no son sustitutos, y el solapamiento es casi nulo. MathForm-8B hace una sola cosa: convierte un enunciado matemático en lenguaje natural en Lean 4 que compila. Todo su aparato de evaluación, incluido el requisito de un servidor Lean en funcionamiento, está construido en torno a eso. Si ese es tu problema, es una respuesta sólida, documentada, con licencia Apache-2.0 y con herramientas reproducibles, y la cifra de consistencia de 72.37 es el número a batir —consistencia, no sintaxis, porque una formalización que compila pero significa otra cosa es un error que te cuesta más que una compilación fallida.

ZwZ2-9B es un modelo general de visión-lenguaje. Nunca se ha evaluado en autoformalización, no tiene consideraciones que merezcan mención sobre el tokenizador de Lean, y fue publicado por un laboratorio cuyo trabajo anterior trataba sobre percepción visual de grano fino. No busques una puntuación de ZwZ2-9B en un benchmark de Lean; no hay razón para que exista.

La verdadera pregunta es si quieres siquiera un especialista o un generalista. Un especialista es mejor en su única tarea y es inútil fuera de ella. Un generalista es peor en todo lo específico y es la única opción cuando la forma de la entrada varía. La razón por la que esta comparación está desequilibrada no radica en las ocho semanas que los separan ni en los mil millones de parámetros, sino en que uno de ellos se publicó con la documentación que necesita un especialista y el otro se publicó como punto de partida para el trabajo de otra persona.

Si quieres ambas capacidades en una sola canalización

Existe un patrón real donde estos dos modos se encuentran: un modelo general lee un documento ambiguo, extrae la afirmación matemática, se la pasa a un formalizador, y un verificador decide si el resultado se sostiene. Esas son tres llamadas a modelos con roles distintos, y es la forma que una capa de enrutamiento existe para abaratar — El DSL de enrutamiento de OrcaRouter compone varios modelos en una sola llamada de modo que un despliegue en abanico y un seguimiento son una sola solicitud en lugar de un servicio de orquestación que mantener. La fusión de modelos, en la que un panel de modelos responde en conjunto y un juez elige la respuesta más sólida, es la misma idea aplicada a una sola pregunta difícil en lugar de a un pipeline.

Ni ZwZ2-9B ni MathForm-8B están en nuestro catálogo, y no vamos a maquillar eso: MathForm-8B se puede descargar bajo Apache-2.0 y servir desde tu propia instancia de vLLM o SGLang, y ZwZ2-9B es un repositorio sin ningún endpoint. Lo que hoy es enrutable desde el lado de razonamiento de ese pipeline es qwen/qwen3.8-27b — el buque insignia denso de la generación actual de Qwen, Apache-2.0, con un contexto de 262K tokens y un techo alojado de 1M tokens a $0.33 por millón de tokens de entrada y $2.40 por millón de salida, repercutido al precio de lista del proveedor sin ningún recargo.

A screenshot of the OrcaRouter Fusion model page showing the model identifier orcarouter/fusion described as Text in, Text out with a 1M-token context, a tier of Quality with a panel of 3 models plus a judge, and copy stating that Fusion sends your hardest prompts to several frontier models at once and then a judge weighs where they agree and catches where they contradict; below, a diagram shows a prompt fanning out in parallel to three models and returning through a judge to a best answer, followed by three numbered steps titled Route by task, Fan out to a panel and Pick the best answer.

Cuánto vale la asimetría

MathForm-8B es el mejor modelo sobre el que escribir, porque hay algo que verificar. ZwZ2-9B es el artefacto más interesante, porque un checkpoint de 9.4B con una plantilla de chat ajustada y una cabeza de predicción eliminada es evidencia de que alguien hizo trabajo real — y porque inclusionAI tiene un historial con el nombre ZwZ que hace que la próxima publicación valga la pena seguir.

Para quien tenga que decidir hoy, la regla no tiene nada de glamurosa. Un artículo publicado, un conjunto de datos, un modelo base con nombre y una licencia declarada no son papeleo. Son la diferencia entre un modelo en torno al cual puedes planificar y un modelo al que tienes que hacerle ingeniería inversa, y ninguna cantidad de arquitectura interesante cierra esa brecha.

Un resultado como este también sirve como recordatorio de que los errores de los modelos ya están documentados: los incidentes de IA y los fallos de agentes que hay detrás de los modelos de esta clase se recopilan en el Archivo de Incidentes de IA de OrcaRouter, donde cada entrada incluye sus propias fuentes, su gravedad, su grado de confianza y su indicador de disputa.