Cartão de título para ZwZ2-27B vs ZwZ2-9B ilustrando a diferença de parâmetros de três vezes entre os dois checkpoints com dois cartões de tamanhos diferentes.
Guides & Insights

ZwZ2-27B vs ZwZ2-9B: O que o triplo de parâmetros realmente proporciona

Autor

Magnus Corvin

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

Em exatamente um benchmark na tabela de 25 testes da inclusionAI, o modelo menor vence. Chartography — leitura de valores em gráficos — dá ZwZ2-9B uma pontuação de 13,00 e ZwZ2-27B uma pontuação de 12,00. Ambos são baixos. Nenhum é bom. Mas a direção é a parte interessante, porque esses dois modelos são o mesmo experimento em dois tamanhos: uma receita de treinamento, um conjunto de dados, um método de artigo, aplicados a um corpo Qwen3.5-9B e a um corpo Qwen3.6-27B, respectivamente. Se a receita é idêntica e o modelo maior vale três vezes os parâmetros, a aritmética de onde esse tamanho realmente aparece é mais surpreendente do que as pontuações gerais de destaque sugerem.

Também vale dizer desde já que ambos os modelos chegaram da mesma forma discreta. O repositório do ZwZ2-9B foi criado às 03:42 UTC de 16 de outubro de 2026; o do ZwZ2-27B, às 05:42 da mesma manhã. Ambos ficaram com pesos e sem documentação por dez dias, e ambos receberam model cards com tabelas completas de benchmarks em 26 de outubro. Nenhum dos dois declara uma licença. Nenhum dos dois tem um artigo publicado — os cards ainda contêm o marcador PAPER_URL.

{{1}}Uma receita, dois corpos{{/1}}

O método de treinamento não é apenas semelhante entre os dois; é o mesmo método aplicado a dois backbones, o que os torna excepcionalmente limpos para comparação. O EvidenceConnect agrupa de três a sete regiões relacionadas de imagens SA-1B, gera perguntas usando recortes ampliados privilegiados, filtra essas perguntas por concordância entre modelos e por um teste de eliminação de uma região, converte as perguntas restantes em tarefas de quatro opções e treina com GRPO — sem etapa de ajuste fino supervisionado. Ambos os modelos usam aproximadamente 20.000 exemplos de treinamento.

Os corpos diferem da maneira habitual:

• Escala — 9B de parâmetros em 32 camadas com dimensão oculta de 4.096, versus 27B em 64 camadas com dimensão oculta de 5.120.

• Atenção — 16 cabeças de consulta e 4 cabeças KV com dimensão 256 para o 9B, contra 24 cabeças de consulta e 4 cabeças KV na mesma dimensão para o 27B.

• Feed-forward — tamanho intermediário de 12.288 versus 17.408.

• Visão — a mesma torre em ambos: 27 camadas com dimensão oculta de 1.152, projetando para 4.096 e 5.120, respectivamente.

• Contexto e vocabulário — idênticos em 262.144 posições e 248.320 tokens.

• Previsão de múltiplos tokens — removida de ambos, com mtp_num_hidden_layers em 0.

• Modelos base — Qwen3.5-9B para o menor, Qwen3.6-27B para o maior. É esse o detalhe que complica a comparação, e a próxima seção explica por quê.

A two-column scoreboard for ZwZ2-27B and ZwZ2-9B: 27B versus 9B parameters, 64 versus 32 layers, 5,120 versus 4,096 hidden size, about 54 GB versus about 19 GB in bf16, an overall score of 60.51 versus 56.59, and UI-Vision at 66.66 versus 45.48.

De onde vem, na verdade, a diferença geral de 3,92 pontos

Aqui está a descoberta que eu não esperava antes de fazer a subtração. As médias gerais são 60,51 para o ZwZ2-27B e 56,59 para o ZwZ2-9B — uma diferença de 3,92 pontos. Agora veja o que cada receita acrescentou à sua própria base, que está publicada nas mesmas tabelas, pelo mesmo laboratório, no mesmo harness:

• ZwZ2-27B — Qwen3.6-27B base em 55,52, ajustado em 60,51. Ganho de 4,99.

• ZwZ2-9B — Qwen3.5-9B base com 51,63, ajustado com 56,59. Ganho de 4,96.

A receita produz quase exatamente a mesma melhoria em ambas as escalas. Três vezes o número de parâmetros rendeu 0,03 ponto de benefício adicional de treinamento. E os modelos base já estavam separados por 3,89 pontos antes de qualquer um deles ser tocado.

Portanto, dos 3,92 pontos de diferença entre os modelos finalizados, 3,89 pontos foram herdados dos checkpoints dos quais partiram. A especialização não criou a diferença. Ela a preservou quase perfeitamente.

Esta é uma comparação de um único laboratório e de um único harness, então a subtração é legítima de uma forma que comparações entre fornecedores nunca são — cada um desses quatro números vem da mesma tabela, produzida pelo mesmo código de avaliação, no mesmo conjunto de benchmark. O arredondamento é grosseiro o suficiente para que 0,03 não deva ser lido como precisão; a leitura honesta é “indistinguível.”

Na prática, isso significa que escolher entre esses dois modelos é praticamente escolher entre Qwen3.5-9B e Qwen3.6-27B, mais um ajuste perceptual fixo. Se você não teria escolhido o modelo base maior para sua carga de trabalho, o treinamento do ZwZ2 não vai mudar essa decisão.

The inclusionAI/ZwZ2-9B model card on Hugging Face, showing its Qwen3.5-9B base model, the claim of 51.63 to 56.59 on 25 benchmarks, a +4.96 gain, and 147 downloads last month.

Domínio por domínio: o tamanho aparece em um só lugar

As médias ocultam a estrutura, e aqui a estrutura é assimétrica. Comparando os dois modelos ajustados nos seis domínios:

• Percepção refinada — 67,57 para o 27B contra 66,02 para o 9B. Uma diferença de 1,55, a menor das seis.

• Percepção espacial — 55,98 contra 52,33. Uma diferença de 3,65.

• Raciocínio visual geral — 53,71 contra 49,83. Uma diferença de 3,88.

• Raciocínio espacial incorporado — 55,71 contra 51,11. Uma diferença de 4,60.

• Compreensão de contexto longo — 68,77 contra 64,08. Uma diferença de 4,69.

• Agentes multimodais — 51,81 contra 42,43. Uma diferença de 9,38.

O padrão é consistente: a vantagem do modelo maior aproximadamente dobra quando a tarefa passa de olhar para uma imagem para agir sobre ela. Nos oito benchmarks de percepção refinada — aqueles para os quais o método foi explicitamente projetado —, os dois modelos estão a menos de um ponto e meio um do outro, com o Chartography indo na direção oposta.

O domínio agêntico é onde o 27B justifica sua pegada de memória, e a maior parte dessa diferença vem de um único teste. O UI-Vision pontua 66,66 para o ZwZ2-27B e 45,48 para o ZwZ2-9B — uma separação de 21,18 pontos, maior que qualquer outra na tabela. ScreenSpot-Pro e AgentVista acrescentam contribuições menores, com 70,59 contra 66,98 e 18,18 contra 14,83.

UI-Vision é um benchmark de ancoragem de interface, e o resultado diz algo específico, não geral: se sua carga de trabalho é ler e operar uma interface de software, o 27B está fazendo algo que o 9B em grande parte não consegue. Se sua carga de trabalho é comparar regiões marcadas em uma fotografia ou em uma página de documento, o 9B está fazendo quase a mesma coisa com um terço dos pesos.

A bar chart of the average score gap between ZwZ2-27B and ZwZ2-9B by domain, rising from +1.55 on fine-grained perception and +3.65 on spatial perception to +9.38 on multimodal agents, with a note that UI-Vision alone differs by 21.18 points.

O único teste que o modelo pequeno vence, e quanto ele deveria contar

Vale a pena nos debruçarmos sobre Chartography justamente porque é a exceção que prova o quão estreita é a especialização. Ambas as pontuações são terríveis — 13,00 e 12,00 de 100, contra uma base Qwen3.6-27B de 8,00 e uma base Qwen3.5-9B de 7,00. O treinamento elevou ambos os modelos em cerca de cinco a seis pontos em uma tarefa que eles ainda não conseguem executar de forma confiável, e o ganho do 9B acabou ficando um ponto acima.

A conclusão correta não é que o 9B seja melhor em gráficos. É que, numa tarefa tão fora da distribuição de treinamento, a diferença entre os dois modelos é ruído, e o comportamento razoável é encaminhar a leitura de gráficos para outro lugar completamente. Um modelo que pontua 12 ou 13 num benchmark de gráficos não tem uma capacidade de gráficos entre a qual escolher.

A mesma cautela se aplica às outras pontuações absolutas baixas. O ZwZ2-9B tem média de 42,43 em agentes multimodais e 18,18 no AgentVista; o ZwZ2-27B tem média de 51,81 e 18,18. Ambos são fracos em trabalho agêntico em termos absolutos, e o fato de o maior ser muito menos fraco não o torna forte.

Como é realmente o consumo de memória

A diferença de parâmetros é a parte que você paga todos os dias. O ZwZ2-9B é um único arquivo safetensors de 9,41 bilhões de parâmetros, com cerca de 19 GB em bf16. O ZwZ2-27B é dividido em dois shards, com cerca de 54 GB. Some as ativações da torre de visão e um orçamento de KV de 262.144 posições, e a divisão prática é:

• ZwZ2-9B — cabe confortavelmente em um único acelerador de consumo de 24 GB em bf16, justo, mas viável; não existe versão quantizada, então você fica com precisão total, a menos que quantize por conta própria.

• ZwZ2-27B — uma placa de 80 GB com folga, ou duas placas de 40 GB em uma divisão bem apertada de paralelismo tensorial. Nada abaixo disso o executa em bf16.

• Suporte a serving — nenhum dos repositórios traz uma receita de vLLM ou SGLang. Ambos fixam transformers==5.13.1 no quickstart, e ambos são documentados apenas no modo non-thinking, com as respostas envolvidas em tags <answer>. Nenhum dos dois declara uma licença, o que, para uma implantação em produção, é um obstáculo maior do que qualquer um dos números de memória.

Esse último ponto merece uma frase própria, porque é igual dos dois lados: não há licença para ler. Os cartões remetem a “a licença que acompanha os pesos divulgados”, e os pesos não trazem nenhuma. Independentemente do tamanho que você escolher, a questão comercial permanece sem resposta.

Usar ambos, em vez de escolher

A tabela de domínios sugere um padrão de dois níveis mais fortemente do que sugere um vencedor. A percepção refinada quase não varia entre os tamanhos, então o 9B é uma primeira passada sensata ali; o trabalho de interface agêntica varia mais de nove pontos na média do domínio e vinte e um no UI-Vision, então esse tráfego pertence ao 27B. Um roteador que encaminha por tipo de tarefa gastaria a maior parte dos seus tokens no modelo barato e reservaria o caro para telas.

Nenhum dos dois tamanhos do ZwZ2 está em nosso catálogo, então esse padrão hoje significa executar dois checkpoints no seu próprio hardware e escrever o despacho você mesmo. Onde o OrcaRouter se encaixa é no lado generalista da mesma pilha: Qwen3.8-27B e Qwen3.5-27B são ambos roteáveis aqui por trás de uma única chave ao preço de tabela do provedor, sem markup, para que a carga de trabalho que não precisa de comparação de região possa ir para um modelo hospedado com failover automático, enquanto o tráfego especializado permanece local. Essa é uma promessa menor do que “rotear o ZwZ2 por meio da gente”, que não podemos oferecer — mas é a parte da arquitetura que está realmente disponível agora.

O resumo honesto é sem glamour. Dois checkpoints, mesma receita, mesmo silêncio, mesma licença ausente, e uma lacuna de desempenho que é quase inteiramente a lacuna pré-existente dos modelos base mais uma especialização real no topo para trabalho de interface. Se você precisa dos números de UI do 27B, você precisa do 27B e da placa de 80 GB. Se não precisa, o 9B te coloca a um ponto e meio de distância na tarefa que o projeto inteiro foi criado para melhorar, e cabe em hardware que você provavelmente já tem.