ZwZ2-9B vs MathForm-8B: Mesmo Tronco, Duas Quantidades de Verdade Muito Diferentes

Dois modelos publicados com oito semanas de diferença, de dois laboratórios diferentes, construídos sobre duas gerações diferentes da mesma família — e os seus troncos têm a mesma largura. MathForm-8B, lançado pela OpenBMB em 14 de agosto de 2026 como um ajuste fino do Qwen3-8B, opera com 36 camadas, com tamanho oculto de 4.096 e tamanho intermediário de 12.288. ZwZ2-9B, postado pela inclusionAI em 16 de outubro de 2026 na pilha Qwen3.5-9B, opera com 32 camadas, com tamanho oculto de 4.096 e tamanho intermediário de 12.288. Gerações parentais distantes, vocabulários de 151.936 e 248.320, tarefas completamente diferentes — e a mesma geometria de tronco 4.096 por 12.288 em ambos. O que os separa não é a arquitetura. É que um deles vem com um artigo, um conjunto de dados, uma estrutura de avaliação e uma licença, e o outro vem com oito arquivos.

A versão curta: se você consegue descrever seu problema como "transforme esta prosa em Lean 4", o MathForm-8B é um especialista documentado, com números publicados, e você deveria usá-lo. Se o seu problema envolve pixels e você quer um modelo geral de visão e linguagem, o ZwZ2-9B é um checkpoint de 9,4B que ninguém caracterizou, e adotá-lo significa tornar-se seu primeiro avaliador. A parte interessante da comparação é o que essa assimetria ensina sobre quanto vale uma herança compartilhada.

Dois descendentes, com uma geração de diferença

MathForm-8B é um derivado do Qwen3-8B e diz isso abertamente: sua ficha registra o modelo base, o conjunto de dados de treinamento, o método de treinamento e o artigo. A configuração é um layout de manual do Qwen3 — 36 camadas, 32 cabeças de consulta contra 8 cabeças de chave-valor com dimensão de cabeça 128, um vocabulário de 151,936 tokens, um teto de 40,960 posições, base rotativa 1,000,000 e atenção completa em todas as camadas. Nada exótico, nada oculto.

ZwZ2-9B é um derivado do Qwen3.5-9B que só se identifica como tal por meio de uma única tag do Hub. A sua configuração é resolvida para Qwen3_5ForConditionalGeneration, e todos os valores arquiteturais correspondem aos do Qwen3.5-9B, exceto por uma camada de previsão de múltiplos tokens excluída. O vocabulário de 248.320 tokens, o limite de 262.144 posições, o M-RoPE intercalado e a torre de visão são todos herdados sem alterações.

• Parâmetros — ZwZ2-9B: 9.409.813.744. MathForm-8B: 8 bilhões, conforme seu cartão.

• Pai — Qwen3.5-9B vs Qwen3-8B, portanto os dois herdam designs de atenção diferentes de gerações diferentes do Qwen.

• Atenção — 24 camadas de atenção linear mais 8 camadas de atenção completa vs atenção completa em todas as 36 camadas.

• Geometria do tronco — tamanho oculto 4,096 e tamanho intermediário 12,288 em ambos.

• Vocabulário — 248.320, com IDs de tokens de imagem e vídeo dentro dele, vs 151.936 e apenas texto.

• Limite de contexto — 262.144 posições vs 40.960.

• Modalidades em — texto, imagem e vídeo vs apenas texto.

• Evidência publicada — um ficheiro de configuração vs um artigo, um conjunto de dados, um pipeline de avaliação e termos Apache-2.0.

O que o MathForm-8B traz para a mesa

A ficha é incomumente completa, e vale a pena percorrê-la porque o contraste posterior depende disso. O MathForm-8B traduz enunciados matemáticos em linguagem natural para Lean 4. Ele foi treinado no FormalVerse — um conjunto de dados que a OpenBMB publicou junto com ele — por meio de ajuste fino supervisionado e, em seguida, aprendizado por reforço, com a compilação Lean e o feedback de consistência semântica fornecendo o sinal de recompensa. O artigo é MathForm: Escalando a Autoformalização Matemática com Recuperação de Conhecimento e Refinamento Guiado por Verificação, arXiv 2608.14221, e o repositório inclui o pipeline de avaliação, os arquivos de benchmark e os scripts Pass@k.

Os resultados são relatados como taxas de aprovação Pass@8 segundo dois critérios separados: uma Verificação de Sintaxe, ou seja, que o Lean gerado realmente compila, e uma Verificação de Consistência, ou seja, que ele compila e diz a mesma coisa que o problema original. Em seis benchmarks, o cartão relata uma média macro de 88,06 em sintaxe e 72,37 em consistência, à frente dos outros autoformalizadores de 8B que ele lista e à frente de várias entradas de 32B na coluna de sintaxe. Essa última comparação é o tipo de afirmação que vale a pena testar, em vez de repetir, e há um detalhe na configuração que torna testá-la não trivial: as verificações de compilação exigem um Kimina Lean Server em execução, e os experimentos usaram o Lean 4.21.0. Este não é um checkpoint que se possa pontuar com um script Python.

Todos os números acima são informados pelo fornecedor. A OpenBMB executou a avaliação, publicou-a, e o repositório de fato inclui os scripts para reproduzi-la — o que é mais do que a maioria dos laboratórios oferece e é a razão pela qual os números valem algo mesmo sem verificação. A ficha também publica suas configurações de geração recomendadas, temperatura 0,6 e top-p 0,95, que é o tipo de pequeno detalhe operacional que um modelo sem ficha deixa você adivinhar.

O que o ZwZ2-9B coloca na mesa

Um config.json, um tokenizer_config.json, um template de chat e 18,8 GB de pesos. Não há README, nem campo de licença, nem tag de pipeline, nem conjunto de dados. O Hub registra zero downloads e duas curtidas, e nenhuma coleção do inclusionAI o contém.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

O que nada disso lhe diz é para que o modelo é bom, com o que foi treinado, se é um modelo de instrução ou algo diferente, ou sob quais termos você pode usá-lo. O MathForm-8B responde às quatro perguntas em sua primeira tela. O ZwZ2-9B não responde a nenhuma delas em lugar algum.

O 4.096 compartilhado não é uma coincidência, e não é um atalho

Ambos os modelos usam um tronco de 4.096 de largura com um tamanho intermediário de 12.288, e o motivo é o mesmo nos dois casos: uma geração do Qwen desse tamanho. Qwen3-8B e Qwen3.5-9B são designs diferentes — atenção completa do começo ao fim versus uma mistura de três para um de atenção linear e completa —, mas ambos são construídos sobre a mesma largura, porque é isso que um Qwen pequeno é. Observar um fine-tune herdar cada dimensão de seu pai é a evidência mais clara disponível de que os fine-tunes herdam integralmente as propriedades de seus pais: os pontos fortes e os modos de falha, não apenas o formato. O MathForm-8B diz de qual pai ele veio, então você pode ir ler sobre ele. O ZwZ2-9B não diz, e a tag do Hub é o único fio de volta.

Qual você realmente precisa

Estes não são substitutos, e a sobreposição é próxima de zero. O MathForm-8B faz uma coisa: transforma uma afirmação matemática em linguagem natural em Lean 4 que compila. Todo o seu aparato de avaliação, incluindo a exigência de um servidor Lean em execução, é construído em torno disso. Se esse é o seu problema, trata-se de uma resposta forte, documentada, sob licença Apache-2.0 e com ferramentas reproduzíveis, e o índice de consistência de 72,37 é o número a ser batido — consistência, não sintaxe, porque uma formalização que compila mas significa outra coisa é um bug que lhe custa mais do que uma compilação que falha.

O ZwZ2-9B é um modelo geral de visão-linguagem. Nunca foi avaliado em autoformalização, não tem considerações de tokenizador para Lean que mereçam menção e foi publicado por um laboratório cujo trabalho anterior era sobre percepção visual de grão fino. Não vá procurar uma pontuação do ZwZ2-9B num benchmark de Lean; não há razão para que exista uma.

A verdadeira questão é se você quer um especialista ou um generalista. Um especialista é melhor em sua única função e inútil fora dela. Um generalista é pior em tudo o que é específico e é a única opção quando o formato da entrada varia. O motivo de essa comparação ser desequilibrada não são as oito semanas entre eles nem os bilhões de parâmetros — é que um deles foi publicado com a documentação de que um especialista precisa, e o outro foi publicado como ponto de partida para o trabalho de outra pessoa.

Se você quiser ambas as habilidades em um pipeline

Existe um padrão real em que estes dois modos se encontram: um modelo geral lê um documento ambíguo, extrai a afirmação matemática, entrega-a a um formalizador, e um verificador decide se o resultado se sustenta. São três chamadas a modelos com papéis diferentes, e é a forma que uma camada de encaminhamento existe para tornar barata — A DSL de encaminhamento da OrcaRouter compõe vários modelos numa única chamada, de modo que um fan-out e um acompanhamento são um único pedido em vez de um serviço de orquestração que tem de manter. A fusão de modelos, em que um painel de modelos responde em conjunto e um juiz escolhe a resposta mais forte, é a mesma ideia aplicada a uma única pergunta difícil em vez de a um pipeline.

Nem o ZwZ2-9B nem o MathForm-8B está no nosso catálogo, e não vamos embelezar isso: o MathForm-8B pode ser baixado sob Apache-2.0 e servido a partir da sua própria instância de vLLM ou SGLang, e o ZwZ2-9B é um repositório sem endpoint nenhum. O que é roteável hoje pelo lado de raciocínio desse pipeline é qwen/qwen3.8-27b — o carro-chefe denso da geração atual da Qwen, Apache-2.0, com um contexto de 262K tokens e um teto hospedado de 1M tokens, a US$ 0,33 por milhão de tokens de entrada e US$ 2,40 por milhão de tokens de saída, repassado ao preço de tabela do provedor sem nada acrescentado.

Quanto vale a assimetria

MathForm-8B é o melhor modelo sobre o qual escrever, porque há algo a verificar. ZwZ2-9B é o artefato mais interessante, porque um checkpoint de 9,4B com um template de chat ajustado e uma cabeça de predição removida é evidência de que alguém fez trabalho de verdade — e porque a inclusionAI tem um histórico com o nome ZwZ que torna o próximo post digno de acompanhar.

Para quem está decidindo hoje, a regra é sem glamour. Um artigo publicado, um conjunto de dados, um modelo base nomeado e uma licença declarada não são burocracia. Eles são a diferença entre um modelo com o qual você pode planejar e um modelo que você precisa analisar por engenharia reversa, e nenhuma quantidade de arquitetura interessante fecha essa lacuna.

Um resultado como este também é um lembrete de que erros de modelo já estão documentados: os incidentes de IA e as falhas de agentes por trás de modelos dessa classe são reunidos no OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, severidade, grau de confiança e indicador de disputa.