Granite Switch 4.1 8B vs Granite 4.2 3B: Mesmo laboratório, duas apostas diferentes

A primeira coisa a saber sobre Granite Switch 4.1 8B e Granite 4.2 3B é que eles não são realmente rivais. São duas respostas para perguntas diferentes que por acaso compartilham um laboratório, uma licença e um número de versão, e a maneira mais rápida de desperdiçar uma semana é tratar isso como um confronto direto e escolher um vencedor. A IBM lançou o Granite 4.2 3B em 25 de agosto de 2026 como um pequeno modelo de raciocínio: três modos de pensamento, chamada de ferramentas, contexto de 128K que se estende até 512K. A IBM lançou o Granite Switch 4.1 8B em 14 de outubro de 2026 como uma composição: um modelo de texto 8B congelado com dois adaptadores alternáveis e um codificador de fala acoplado a ele. Um foi criado para pensar mais; o outro foi criado para fazer mais tarefas a partir de um único checkpoint.

A segunda coisa a saber é mais sutil, e é a razão pela qual este pareamento merece um artigo. A linha Granite Switch é construída sobre os pesos da geração 4.1, enquanto a linha convencional da IBM já avançou para a 4.2. Leia o manifesto de build do Granite Switch 4.1 8B e a base é ibm-granite/granite-4.1-8b. Leia o model card do Granite 4.2 3B e ele é pós-treinado a partir de ibm-granite/granite-4.1-3b-base. Ambas as linhas estão sobre a mesma geração de pesos pré-treinados e fazem coisas opostas com eles: a 4.2 faz um pós-treinamento mais intenso para raciocínio, a Switch compõe lateralmente para amplitude. Nenhuma suplantou a outra, e é por isso que o reflexo de "qual é mais nova" dá a resposta errada aqui.

O que cada um realmente é

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B não é um modelo de raciocínio e não tenta ser. Sua base é o Granite 4.1 8B — 40 camadas, tamanho oculto 4.096, 32 cabeças de consulta contra 8 cabeças KV, uma janela de 131.072 tokens — congelado, com dois adaptadores LoRA ativados por cima. guardian-core tem rank 16 sobre as projeções de atenção e existe para detectar danos, jailbreak, profanidade, violência, conteúdo sexual, viés social e comportamento antiético. decision tem rank 64 sobre todas as sete projeções e existe para retornar uma distribuição de probabilidade calibrada sobre opções rotuladas em uma única passagem direta. Adicione Granite Speech 5.0 TurboCTC, um codificador conformer de 470 milhões de parâmetros, para transcrição. Total composto: 8.776.400.896 parâmetros contra uma base de 8.380.551.168 — um aumento de 4,72%.

As dimensões em que eles realmente diferem

• Tamanho — Granite Switch 4.1 8B, com 8,78B, composto em contraste com o Granite 4.2 3B, com cerca de 3B. Quase três vezes a quantidade de pesos, o que, numa única GPU, é a diferença entre folgado e apertado.

• Contexto — 131.072 tokens contra 128K nativos, com um caminho de extensão até 512K. Próximo na base, não próximo se você precisar do regime de contexto longo.

• Raciocínio — nenhum modo de pensamento em absoluto contra três deles. O Granite Switch 4.1 8B responde; o Granite 4.2 3B raciocina primeiro, opcionalmente.

• Saída estruturada — um softmax calibrado sobre opções rotuladas em comparação com uma resposta obtida por prompt. Apenas um destes lhe dá um número ao qual pode aplicar um limiar.

• Modalidades — texto mais áudio na entrada, texto na saída, versus apenas texto.

• Composição de adaptadores — dois aLoRAs alternáveis e um compositor público contra um único checkpoint monolítico.

• Lançamento — 14 de outubro de 2026 contra 25 de agosto de 2026, com sete semanas de diferença, ambos sob Apache-2.0.

Onde o Granite 4.2 3B é a escolha óbvia

Tudo o que precisa pensar antes de responder e tudo o que tem de rodar em pequena escala. Um modelo de 3B que raciocina em um número controlado de tokens é uma ferramenta diferente de um modelo de 8B que não raciocina de forma alguma, e em matemática, lógica de várias etapas e código os modos de pensamento estão fazendo trabalho de verdade, em vez de apenas decorar a saída. O modo de baixo esforço é a parte subestimada: ele oferece uma configuração intermediária entre "raciocinar por completo" e "não raciocinar", que é exatamente o que você quer quando uma consulta é simples, mas não trivial, e você está pagando por token.

A extensão de 512K importa pelo mesmo motivo, numa direção diferente. O trabalho com documentos longos — código em escala de repositório, entradas com centenas de páginas — é onde uma janela de 131K começa a exigir estratégias de divisão em blocos, e o Granite Switch 4.1 8B não documenta um caminho de extensão além de seus 131.072.

A pegada é o terceiro argumento, e não é pequena. Três bilhões de parâmetros é um modelo de classe laptop. Você pode executar o Granite 4.2 3B em lugares onde um checkpoint de 8,78B simplesmente não é uma opção, e isso é uma diferença de capacidade, não de preferência.

Onde o Granite Switch 4.1 8B é a escolha óbvia

Quando o resultado de que você precisa é uma probabilidade, e não um parágrafo. Um modelo de raciocínio pode ser instigado a escolher a opção B, e ele lhe dará a letra. Prompts, porém, não são probabilidades: você não pode aplicar um limiar a uma letra, não pode comparar uma letra entre turnos como uma pontuação calibrada, e não pode registrá-la como um valor de confiança. decisão retorna um softmax sobre os tokens de rótulo diretamente — a chamada documentada pede ao vLLM os logprobs exatamente desses ids e exponencia, produzindo uma saída com o formato A: 0,982, B: 0,0035, C: 0,014. Isso é uma primitiva de roteamento, não uma resposta.

Quando a verificação de segurança precisa ser um componente, e não uma política. guardian-core usa o mesmo checkpoint, ativado por um token de controle que o template de chat insere quando você passa um adapter_name. Você não está subindo um segundo modelo para filtrar as entradas; o classificador é um modo do modelo que você já carregou.

Quando você quer um endpoint em vez de dois, e especificamente quando o áudio é um dos dois. A transcrição compartilha o endpoint com chat e decisões, então uma parte de conteúdo input_audio em uma conclusão de chat comum é tudo o que é necessário. O Granite 4.2 3B não tem caminho de áudio.

E quando você quiser compor sua própria variante. O compositor é público, o catálogo de adaptadores é aberto, e o manifesto de build deste checkpoint está versionado junto aos pesos — o que significa que os ranks, os módulos-alvo e os IDs de tokens de controle são todos legíveis em vez de inferidos.

As ressalvas honestas de ambos os lados

Granite Switch 4.1 8B não tem nenhuma avaliação independente. Sua única pontuação publicada é o Decision Index, edição v0.3, subconjunto público fast, com 42,9 no geral — Conhecimento 29,1, Idioma 48,9, Recuperação 49,8, Ferramentas 59,8, Artes 18,0 — e essa execução foi da própria IBM, publicada no model card da IBM, reproduzida por ninguém. Não há entrada em leaderboard de terceiros. O modelo tem dois dias no Hub, com algumas dezenas de downloads.

Seu caminho de fala é mais estreito do que a manchete sugere, e a própria IBM diz isso: o codificador é apenas em inglês, a transcrição sai em minúsculas e sem pontuação, e o codificador e o modelo de linguagem não são treinados em conjunto — não há uma projeção treinada que os acople, então uma transcrição incorreta pode alterar silenciosamente aquilo a que o modelo responde. O Granite 4.2 3B, por sua vez, tem sete semanas, e não dois dias, mas os números de avaliação dele também são da IBM, e seu contexto de 512K é um caminho de extensão, e não a janela nativa.

Nenhum desses modelos tem uma entrada independente no quadro de pontuação. Isso é uma característica de toda a linha Granite 4.x neste momento, não uma crítica a nenhum dos checkpoints.

Executando ambos sem executar duas stacks

A observação útil sobre este pareamento é que os dois modelos não competem pela mesma requisição, então a implantação realista é os dois, em sequência: Granite 4.2 3B em modo de pensamento onde a parte difícil é o raciocínio, Granite Switch 4.1 8B onde a parte difícil é pontuar uma decisão ou transcrever uma nota de voz. Essa é uma arquitetura de dois contêineres, e vale a pena ser preciso sobre onde uma camada de roteamento ajuda e onde não ajuda: nenhum modelo Granite de qualquer geração está no catálogo do OrcaRouter hoje, então não somos uma rota hospedada para nenhum desses dois checkpoints — Granite Switch 4.1 8B e Granite 4.2 3B são ambos um download do Hugging Face mais um contêiner vLLM. O que a plataforma muda é a camada acima deles. Mais de duzentos modelos ficam atrás de uma única chave, o preço de tabela do provedor é repassado com 0% de markup então uma redução de preço do fornecedor entra em vigor no mesmo dia, em vez de na próxima atualização do catálogo, e o failover automático significa que um modelo que você está apenas testando pode ficar em um caminho ativo sem se tornar um ponto único de falha. O ponto de ter isso em vigor antes que qualquer um dos modelos Granite apareça em um endpoint hospedado é que a comparação então custa uma string de modelo em vez de uma migração.

Então, qual

Escolha o Granite 4.2 3B quando a carga de trabalho for de raciocínio, quando a máquina for pequena ou quando a entrada tiver mais de 131K tokens. Escolha o Granite Switch 4.1 8B quando a carga de trabalho precisar de uma probabilidade de decisão calibrada, de uma triagem de segurança em linha ou de fala no mesmo endpoint do chat. Escolha os dois se você tiver as GPUs, porque a sobreposição entre eles é muito menor do que o rótulo compartilhado "Granite 4.x" faz parecer — e não escolha nenhum dos dois com base em um número de benchmark que a IBM executou na placa da IBM, porque essa é toda a base de evidências públicas de ambos.