ZwZ2-9B vs Gemma 4 12B: Um Modelo, Uma Ficha de Modelo, e Qual Deles Você Consegue Realmente Colocar em Produção

Gemma 4 12B está público desde 23 de maio de 2026. Ele vem com um model card, um relatório técnico, uma suíte de avaliação publicada, cinco tamanhos irmãos e uma contagem de downloads no Hub que ultrapassou 79.000 só no último mês. ZwZ2-9B está público desde 16 de outubro de 2026 — hoje — como oito arquivos em um repositório sem README, sem campo de licença e sem pipeline tag. Ambos têm aproximadamente o mesmo tamanho. Ambos aceitam imagens. Ambos declaram o mesmo teto de contexto de 262.144 posições. E não estão nem de longe no mesmo estado de prontidão, que é a única comparação que importa se você está decidindo onde gastar uma GPU.

A resposta curta: Gemma 4 12B é um produto finalizado do Google DeepMind, com cinco meses de outras pessoas já tendo atingido seus limites. ZwZ2-9B é um checkpoint da inclusionAI que ninguém fora do laboratório descreveu ainda, incluindo o próprio laboratório. Se você precisa lançar algo este mês, a escolha não é nem de perto difícil, e isso não é um comentário sobre os pesos. Se você está decidindo no que fazer protótipo no próximo mês, leia os números abaixo e depois rode sua própria avaliação, porque só um desses dois modelos lhe deu algo para ler.

As duas pilhas, dimensão por dimensão

• Parâmetros — ZwZ2-9B: 9.409.813.744 em bfloat16. Gemma 4 12B: 11,95 bilhões.

• Arquitetura — qwen3_5, um híbrido de atenção linear e completa. Gemma: gemma4_unified, sem codificador e unificado entre modalidades.

• Camadas — 32 no ZwZ2-9B (24 de atenção linear, 8 de atenção total). 48 no Gemma 4 12B (40 de janela deslizante com 1.024 tokens, 8 de atenção total).

• Limite de contexto — 262,144 posições declaradas por ambos.

• Vocabulário — 248.320 vs 262.144, com o da Gemma reservado para IDs de token de imagem, áudio e vídeo.

• Modalidades em — texto, imagem e vídeo para o ZwZ2-9B. Texto, imagem, áudio e vídeo para o Gemma 4 12B, cuja configuração traz uma torre de áudio de 640 dimensões.

• Licença — nenhuma declarada vs Apache-2.0.

• Histórico — zero downloads e duas curtidas vs 79.565 downloads e 790 curtidas no último mês.

Duas dessas linhas merecem uma segunda olhada porque invertem uma intuição. A primeira é o cronograma de atenção: {{1}}ZwZ2-9B{{/1}} é um modelo de 32 camadas com 8 camadas de atenção total, e o {{2}}Gemma 4 12B{{/2}} é um modelo de 48 camadas com 8 camadas de atenção total. Ambos apostam que a parte cara da atenção deve ser rara; eles simplesmente discordam sobre quão rara, em uma camada em cada quatro versus uma em cada seis. A segunda é o teto de contexto, onde um checkpoint de 9,4B sem documentação e um carro-chefe de 11,95B do {{3}}DeepMind{{/3}} chegam exatamente ao mesmo número 262.144 — o que é uma coincidência de metas de projeto, e não qualquer relação entre os dois.

Onde o Gemma 4 12B não está apenas à frente, mas em uma categoria diferente

O áudio vem primeiro. O modelo do Google recebe som nativamente, com uma torre de áudio dedicada e ids de token de áudio dentro de seu vocabulário. O tokenizador do ZwZ2-9B também reserva <|audio_start|>, <|audio_end|> e <|audio_pad|> — mas sua configuração não contém nenhuma configuração de áudio de qualquer tipo, então esses tokens são vocabulário herdado, e não uma capacidade que ele possui. Se sua carga de trabalho inclui fala, este é o fim da comparação, e vale a pena ser preciso sobre o motivo: não porque o ZwZ2-9B teve uma pontuação pior, mas porque não há nada no checkpoint que possa processar uma forma de onda.

A documentação vem em segundo lugar, e é a que tem efeito composto. O Gemma 4 12B vem com um relatório técnico (arXiv 2607.02770), um conjunto de avaliação publicado que abrange desde raciocínio no estilo GPQA até benchmarks de visão, uma licença declarada e uma nota de que o modelo está disponível em cinco tamanhos, para que você possa trocar capacidade por footprint sem sair da família. Ao seu redor, o Hub mostra 83 fine-tunes publicados, 49 quantizações e 15 Spaces construídos sobre ele. Esse ecossistema não é decoração. É um conjunto de evidências sobre como o modelo falha, produzido por pessoas que não são do Google, e não há substituto para isso.

Licenciamento é o terceiro, e é o menos glamouroso e o mais decisivo. Gemma 4 12B é Apache-2.0. ZwZ2-9B não declara licença alguma — nem aberta, nem personalizada, nada nos metadados do repositório. Na ausência de uma declaração, a leitura segura é de que o publicador reservou seus direitos, e essa não é uma questão que você queira descobrir que errou durante a aquisição. Um checkpoint que você não pode usar legalmente não é mais barato do que um que você pode.

O único lugar onde o ZwZ2-9B tem um argumento estrutural

Não está na qualidade, que ninguém consegue medir ainda. Está em como a coisa gasta computação, e a config é incomumente explícita sobre isso.

Três quartos das camadas do ZwZ2-9B são de atenção linear — 24 de 32 —, cada uma carregando um estado recorrente de tamanho fixo em vez de um cache de chave-valor que cresce com a conversa. A configuração nomeia o mecanismo: 16 cabeças de chave e 32 cabeças de valor na dimensão 128, um kernel de convolução de largura 4 e um estado mantido em float32 para estabilidade numérica. Somente uma em cada quatro camadas realiza atenção completa. O Gemma 4 12B faz uma aposta semelhante com um mecanismo diferente — 40 de suas 48 camadas usam uma janela deslizante limitada a 1.024 tokens —, de modo que ambos os modelos são projetados para deixar de pagar o custo da atenção completa na maioria das camadas. Eles diferem em grau e em técnica, e sem benchmarks não há maneira honesta de dizer qual deles vence. A intenção de design é legível; o resultado não é medido.

A pegada é a parte simples. 9,41 bilhões de parâmetros contra 11,95 bilhões é cerca de um quinto menos de peso para manter antes de você quantizar qualquer coisa, e a torre de visão é pequena — 27 camadas com tamanho oculto de 1.152 projetando-se em 4.096 — e é por isso que o modelo cabe confortavelmente na mesma classe de hardware que executaria o Gemma 4 12B.

The behavioural difference worth knowing is the reasoning default. ZwZ2-9B's chat template emits an empty <think></think> block unless you explicitly ask for thinking, so it answers directly out of the box. Gemma 4 12B offers thinking modes you configure. For extraction, classification or routing — the jobs where a second pass of reasoning is latency you did not want to pay for — only one of these is cheap by default.

O que o ZwZ2-9B não consegue lhe dizer, e por que isso decide a comparação

Você não pode saber se é um modelo ajustado por instruções ou um checkpoint base, porque seu repositório não tem README nem tag de pipeline, e ambos normalmente diriam isso. O prompt de sistema embutido que aponta para <answer> tags é forte evidência de um modelo de instrução treinado, mas é evidência, não uma afirmação.

Você não pode saber no que ele foi treinado, se a receita de percepção refinada que tornou o nome da família ZwZ conhecido foi mantida, nem no que ele deveria ser bom. Você não pode saber sua licença. E não pode saber como ele se comporta nos limites, porque ninguém fora da inclusionAI o executou.

Coloque isso ao lado do Gemma 4 12B, e a assimetria não é uma questão de grau. Um modelo chega com um relatório técnico e oito meses de uso público; o outro chega com um config.json e um padrão de pensamento invertido. Isso é um motivo para prototipar, não um motivo para descartar — checkpoints não documentados são onde muito trabalho interessante aparece primeiro —, mas é um motivo para ser honesto de que você mesmo estaria fazendo a avaliação.

Uma regra de decisão que não depende da evidência ausente

Escolha o Gemma 4 12B se qualquer uma das seguintes condições for verdadeira: você precisa de entrada de áudio, precisa de uma licença que possa mostrar a um advogado, precisa lançar dentro de um trimestre, ou precisa de tamanhos irmãos para que o mesmo conjunto de avaliação se transfira para cima e para baixo em uma família. Todas as quatro estão resolvidas.

Leve o ZwZ2-9B a sério se você tiver uma pergunta específica que um modelo de visão de 9,4B com atenção híbrida e padrão sem raciocínio possa responder melhor do que um pelo qual você já está pagando, e se estiver disposto a medi-lo por conta própria. A primeira coisa a testar não é a inteligência dele. É se ele aceita as imagens que você realmente envia a ele, retorna o formato de que você realmente precisa e faz isso sem que um problema de licença paire sobre o resultado.

E não os compare em uma tabela de benchmark, porque a tabela só tem uma coluna. Você poderia colocar os números publicados do Gemma 4 12B ao lado de um espaço em branco e chamar isso de comparação, mas o espaço em branco é o achado. Qualquer pessoa que apresente um veredito de qualidade frente a frente sobre o ZwZ2-9B esta semana está inventando.

Nenhum dos checkpoints está no nosso catálogo hoje, então nenhum deles é algo que você possa chamar por meio de nós agora — Gemma 4 12B é um download do Hugging Face e sua própria stack de serving, e ZwZ2-9B também. O que nós servimos é o irmão que torna a comparação do Gemma executável sem mudar como você avalia qualquer coisa: Gemma 4 26B A4B, o membro de mistura de especialistas da mesma família, em um endpoint hospedado a US$ 0,06 por milhão de tokens de entrada e US$ 0,33 por milhão de tokens de saída com o mesmo contexto de 262K tokens. Como a OrcaRouter repassa os preços de lista dos provedores com 0% de markup, uma mudança de preço do lado do provedor chega aqui no mesmo dia em vez de na próxima atualização do catálogo — o que importa quando o que você está fazendo é uma comparação de custos entre um modelo que você hospeda e um modelo que você aluga. Do outro lado da chave, o substituto hospedado mais próximo do que o ZwZ2-9B tenta ser é qwen/qwen3-vl-8b-instruct, um modelo de visão e linguagem de 8B com um contexto de 131K a US$ 0,18 e US$ 0,70, que é documentado, licenciado e está disponível agora.

O que mudaria este artigo?

Uma ficha de modelo. Especificamente: uma licença, um parágrafo sobre os dados de treinamento e uma tabela de avaliação produzida por alguém que não treinou o modelo. Até então, o resumo honesto de ZwZ2-9B versus Gemma 4 12B não é que um seja melhor. É que um existe como produto e o outro existe como uma listagem de arquivos, e a lacuna entre essas duas coisas é a distância mais cara no aprendizado de máquina.

Também é em comparações como esta que os modos de falha aparecem: os incidentes de IA documentados e as falhas de agentes por trás de modelos nesta classe são coletados no OrcaRouter AI Incident Archive, onde cada entrada carrega suas próprias fontes, gravidade, grau de confiança e sinalização de disputa.