Granite Switch 4.1 8B vs. Gemma 4 12B: Especialistas compostos ou um modelo unificado?

Pergunte a dois laboratórios como construir um modelo que consiga manter uma conversa, ler uma captura de tela e transcrever uma nota de voz, e obterá respostas opostas. Granite Switch 4.1 8B, lançado pela IBM em 14 de outubro de 2026, mantém um modelo de texto 8B congelado e acopla a ele pequenos adaptadores comutáveis, de modo que o verificador de segurança, o mecanismo de decisão e o reconhecedor de fala são todos complementos acoplados sobre uma única espinha dorsal compartilhada. Gemma 4 12B, publicado pelo Google em 23 de maio de 2026, faz o oposto: um único modelo de 11,95 bilhões de parâmetros treinado desde o início em texto, imagens e áudio, sem nenhum codificador separado para conectar. Ambos são Apache-2.0, ambos rodam em uma única GPU e discordam sobre quase tudo o que está por baixo.

A versão prática, antes dos detalhes: o Gemma 4 12B é a escolha madura para qualquer coisa que precise ver, porque está público há cinco meses, tem uma base instalada genuinamente grande, e seu caminho multimodal é treinado em vez de costurado. O Granite Switch 4.1 8B é a escolha interessante para qualquer coisa que precise decidir ou executar um endpoint em vez de três, e tem dois dias de vida com zero avaliação independente. Esses não são veredictos concorrentes — são respostas para perguntas diferentes, e o resto deste texto é o detalhe que permite distinguir qual pergunta você realmente tem.

A divisão arquitetural, dita sem rodeios

Granite Switch 4.1 8B é uma composição. A base é o Granite 4.1 8B — 40 camadas, tamanho oculto 4.096, 32 cabeças de consulta contra 8 cabeças KV, uma janela de 131.072 tokens, um vocabulário de 100.352 tokens que os dois adaptadores ampliam em exatamente três ids reservados. Sobre isso ficam dois adaptadores LoRA ativados, guardian-core com rank 16 sobre as projeções de atenção e decision com rank 64 sobre todas as sete delas, além do Granite Speech 5.0 TurboCTC, um codificador conformer não autorregressivo de 470M de parâmetros, para entrada de áudio. Total: 8.776.400.896 parâmetros contra 8.380.551.168 da base — um aumento de 4,72% para dois adaptadores e um modelo de fala.

Gemma 4 12B é um único stack. A configuração o chama de gemma4_unified, e o nome é literal: imagem, áudio e vídeo têm seus próprios IDs de token dentro de um único vocabulário de 262.144 tokens, e o cartão descreve a arquitetura como sem encoder, ou seja, não há uma torre de visão nem uma torre de áudio separada alimentando uma projeção no modelo de linguagem. Ela intercala atenção local de janela deslizante sobre uma janela de 1.024 tokens com atenção global completa, usa p-RoPE para posição e se estende até um contexto de 256K. Apache-2.0, como o Granite.

• Parâmetros — Granite Switch 4.1 8B: 8,78B compostos (8,38B base). Gemma 4 12B: 11,95B.

• Contexto — 131.072 tokens vs 256.000 tokens.

• Vocabulário — 100.355 vs. 262.144, com o da Gemma reservado para tokens de imagem, áudio e vídeo.

• Modalidades em — texto e áudio vs texto, imagem, áudio e vídeo.

• Modalidades fora — somente texto vs somente texto.

• Cabeças especializadas — uma distribuição de decisão calibrada e um classificador de segurança versus nenhum; o Gemma responde, não pontua rótulos de opções.

• Licença — Apache-2.0 ambos.

Onde o Gemma 4 12B vence de forma absoluta

A visão não chega nem perto. O Gemma 4 12B lê imagens nativamente; o Granite Switch 4.1 8B não tem nenhum caminho para imagens. Se o seu pipeline ingere capturas de tela, PDFs, gráficos ou capturas de interface, aí a comparação acaba — por mais engenhoso que seja o adaptador, ele não substitui uma modalidade que o checkpoint não aceita.

O histórico é o segundo. O Gemma 4 12B está no Hub desde 23 de maio de 2026, e seu irmão instruct ultrapassou 1,6 milhão de downloads; só o checkpoint base já passou de 79.000. Ambos os números são contagens de downloads do Hub, e não dados de uso, de modo que superestimam a implantação real, mas a direção é inequívoca: há um grande contingente de pessoas que já esbarraram em seus modos de falha e escreveram sobre isso. O Granite Switch 4.1 8B, no momento em que escrevo, tem dois dias de vida, algumas dezenas de downloads e um punhado de curtidas. Cinco meses de relatórios públicos de bugs são um ativo que não se compra, e é o argumento isolado mais forte em favor do Gemma em um caminho de produção neste trimestre.

O comprimento do contexto é o terceiro, e é o discreto. 256K contra 131.072 não é uma diferença de marketing quando você está alimentando documentos longos. Nenhum dos modelos precisa de uma solução alternativa para uma carga de trabalho típica de chat, mas apenas um deles aceitará um contexto em escala de repositório sem sharding.

Onde o Granite Switch 4.1 8B vence de forma incontestável

O adaptador de decisão é uma capacidade que o outro modelo simplesmente não tem. Forneça a ele um estado e uma pergunta com opções rotuladas e ele retorna um softmax calibrado sobre esses rótulos em uma única passagem direta — a chamada documentada pede ao vLLM os logprobs exatamente dos ids de token dos rótulos e os exponencia, produzindo uma saída no formato A: 0.982, B: 0.0035, C: 0.014. Um modelo de propósito geral pode ser instruído a escolher um rótulo, mas o prompting produz um token, não uma distribuição à qual você possa aplicar um limiar, comparar entre turnos ou registrar como uma pontuação calibrada. Para lógica de roteamento, triagem, limites de escalonamento e qualquer coisa que precise de um valor de confiança em vez de uma resposta, essa é uma classe diferente de saída.

A consolidação em um único endpoint é a segunda. A transcrição de fala roda no mesmo endpoint que o chat e as decisões; você envia um input_audio como parte do conteúdo em uma conclusão de chat normal, e o codificador de 470M o transcreve antes de inserir o texto no contexto. Nenhum segundo servidor, nenhuma camada de orquestração, nenhuma fatura separada de ASR. O Gemma 4 12B também aceita áudio, então isso não é uma lacuna de capacidade — é uma diferença no formato de implantação, e só importa se você fosse, de outra forma, executar um serviço de fala separado junto com o LLM.

Footprint é o terceiro. 8,78B contra 11,95B é aproximadamente um quarto a menos de peso para manter, e o design de cache KV compartilhado significa que os adaptadores não carregam cada um seu próprio estado de atenção. A IBM afirma que o modelo composto ocupa aproximadamente a mesma VRAM que o base sozinho; essa afirmação específica não foi reproduzida, mas o delta de parâmetros de 4,72% por trás dela é um fato do manifesto de build.

As duas alegações do lado da Granite que ainda não são fatos

O número publicado do Decision Index para o adaptador de decisão é 42,9 no geral, no subconjunto rápido público edition-v0.3 de 1.068 linhas, com pontuações por área de Conhecimento 29,1, Linguagem 48,9, Recuperação 49,8, Ferramentas 59,8 e Artes 18,0. A IBM realizou essa avaliação e a IBM a publicou. Ninguém mais a reproduziu, e não há sequer nenhuma entrada de ranking de terceiros para o Granite Switch. Leia também o formato: 59,8 em Ferramentas ao lado de 18,0 em Artes é um perfil de especialista, não uma pontuação de competência geral, e a ficha afirma explicitamente que se deve tratar as probabilidades das opções como uma priori, em vez de uma classificação certificada, em domínios para os quais o adaptador não foi treinado.

O segundo é o caminho da fala, e é a afirmação mais suscetível de ser superinterpretada. O codificador é apenas em inglês, sua saída é em minúsculas e sem pontuação e — nas próprias palavras da IBM no cartão do modelo — o codificador de fala e o LLM não são treinados em conjunto; não há projeção treinada que os acople. O caminho de áudio do Gemma 4 12B foi treinado como parte do modelo. Essa é a diferença real, e ela sobrevive a toda a conversa sobre consolidação de endpoints: um sistema tem um acoplamento treinado entre som e significado, o outro tem uma transcrição inserida em um prompt por um componente que nunca foi otimizado para funcionar com aquilo que a lê.

Executando-os lado a lado

Ambos os checkpoints são baixáveis, ambos são Apache-2.0, e o enquadramento honesto é que eles pertencem a funções diferentes, e não a uma competição direta. Gemma 4 12B é o que você procura quando a entrada inclui pixels. Granite Switch 4.1 8B é o que você procura quando a saída precisa ser uma probabilidade, ou quando você quer um único endpoint fazendo chat, decisões e transcrição e está disposto a aceitar que a parte de transcrição é uma emenda, e não um caminho treinado.

Se você está comparando os dois, faça isso sem precisar refazer a integração da sua stack. O OrcaRouter expõe mais de 200 modelos por trás de uma única chave de API com failover automático e repassa o preço de tabela do provedor com 0% de margem, então uma mudança de preço do lado do provedor chega aqui no mesmo dia, em vez de na próxima atualização do catálogo. img src="4.png" alt="Uma captura de tela da página de modelo do OrcaRouter para Gemma 4 26B A4B, mostrando o modelo marcado como Vision, Tools, JSON e Reasoning com um contexto de 262K tokens, entrada de texto, imagem e vídeo, uma data de lançamento do Google de 2026-04-03, um preço por milhão de tokens de US$ 0,06 de entrada e US$ 0,33 de saída, um p50 de tempo até o primeiro token de 2,74 segundos, e um texto introdutório descrevendo o Gemma 4 26B A4B IT como um modelo de mistura de especialistas ajustado para instruções, com 25,2B de parâmetros totais, dos quais 3,8B são ativados por token." /> Nenhum desses dois checkpoints está no nosso catálogo hoje, e não vamos fingir o contrário — o Granite Switch é um download do Hugging Face e um contêiner vLLM, e o Gemma 4 12B é a mesma coisa. O ponto de colocar um candidato por trás de uma única chave é que, quando ele estiver disponível, compará-lo com o incumbente no seu próprio tráfego custa uma string de modelo, não uma migração. Considere alguns dos modelos que nós servimos, como Gemma 4 26B A4B, como ponte: é da mesma família do modelo que você está avaliando, em um endpoint hospedado, hoje.

Qual deles, para quem

Opte pelo Gemma 4 12B se a sua carga de trabalho tiver pixels, se o contexto de 256K for indispensável, ou se você vai lançar neste trimestre e quer cinco meses de erros de outras pessoas entre você e a produção. Opte pelo Granite Switch 4.1 8B se precisar de uma distribuição calibrada sobre opções rotuladas em vez de uma resposta, se colapsar chat, decisões e fala em um único endpoint remove um serviço da sua arquitetura, ou se você é o tipo de equipe que quer ler o manifesto de build e compor a sua própria variante — o compositor é público e o catálogo de adaptadores é aberto.

Não escolha o Granite Switch 4.1 8B para visão. Ele não tem nenhuma. E não escolha nenhum dos dois com base em um número de benchmark que você mesmo não executou, porque a única pontuação de decisão nesta comparação é uma relatada pelo fornecedor, sem uma segunda opinião por trás dela — o que é uma afirmação sobre o estado das evidências, não sobre o modelo.