Granite Switch 4.1 8B vs Qwen3-8B: O que acontece quando o outro lado não tem sucessor

Comece com um problema de nomenclatura, porque isso muda o que este artigo pode ser honestamente. Quando você procura o modelo 8B na mais nova geração Qwen da Alibaba, não vai encontrar nenhum: a linha Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, as variantes Flash, o enorme 2.4T-A95B de mistura de especialistas — simplesmente não inclui um membro denso de 8B. A posição 8B na família Qwen ainda é ocupada pelo Qwen3-8B, lançado em 27 de abril de 2025: 8,2 bilhões de parâmetros, pensamento híbrido e não pensamento em um único modelo, mais de 100 idiomas e dialetos, 32.768 tokens de contexto nativo, estendendo-se para 131.072 com YaRN. Esse modelo tem dezesseis meses e ainda é um dos checkpoints de pesos abertos mais baixados existentes. É o atual ocupante da posição — e o que torna esta comparação digna de ser escrita é que Granite Switch 4.1 8B, o checkpoint composto da IBM de 14 de outubro de 2026, não está se propondo a substituí-lo por um sucessor de forma alguma. Está oferecendo um formato diferente de modelo na mesma classe de parâmetros: um modelo de texto 8B congelado com dois adaptadores alternáveis e um codificador de fala acoplado a ele, realizando três tarefas por alternância, em vez de uma tarefa por raciocínio. Ninguém substituiu o Qwen3-8B, e a melhor pergunta é se alguém precisa fazê-lo.

Em contrapartida, ergue-se Granite Switch 4.1 8B, o checkpoint composto da IBM de 14 de outubro de 2026 — um Granite 4.1 8B congelado, com 8.380.551.168 parâmetros, carregando dois adaptadores LoRA ativados e comutáveis e um codificador de fala de 470M, para um total composto de 8.776.400.896, um aumento de 4,72%. Mesma classe de parâmetros, uma ideia completamente diferente do que é um modelo. O Qwen3-8B é uma pilha densa única que faz tudo raciocinando sobre isso. O Granite Switch 4.1 8B é uma pilha que não faz nada por raciocínio e faz três coisas por comutação.

O slot de 8B está vazio, e essa é a verdadeira história.

Vale a pena pausar sobre a ausência, em vez de tratá-la como uma lacuna nesta comparação. A Alibaba lançou a geração Qwen3.8 com um modelo denso de 27B, um Max, variantes Flash e uma mistura de especialistas de 2,4 trilhões de parâmetros, e pulou a classe de tamanho que fez a geração anterior ser a escolha padrão para implantação em uma única GPU. Toda equipe que escolheu o Qwen3-8B porque cabia em uma placa e podia passar por fine-tuning de forma barata agora está diante de uma linha sucessora que ou dobra o requisito de memória ou muda completamente o problema de serving.

Essa é a verdadeira decisão de que trata este artigo. Ninguém está escolhendo entre Qwen3-8B e Granite Switch 4.1 8B com base na qualidade — um incumbente de dezesseis meses contra um desafiante de dois dias sem avaliação independente não é uma comparação de qualidade, é uma comparação de conhecimento. A questão é o que você faz quando seu cavalo de batalha não tem um sucessor do mesmo tamanho, e as duas respostas candidatas são "manter o cavalo de batalha" e "mudar o formato".

Qwen3-8B: o que dezesseis meses de produção proporcionam

O Qwen3-8B é um transformer causal denso com 36 camadas, tamanho oculto de 4.096, atenção de consulta agrupada com 32 cabeças de consulta contra 8 cabeças KV, um intermediário de 12.288, RoPE theta 1e6, embeddings não atrelados e um vocabulário de 151.936 tokens. Aproximadamente 8,2 bilhões de parâmetros, dos quais cerca de 6,95 bilhões não são de embedding. O interruptor de pensamento é um parâmetro — enable_thinking — e as configurações de geração diferem conforme o modo, com o cartão alertando explicitamente contra a decodificação greedy no modo de pensamento, porque ela causa looping.

O que ele tem que nenhum novo checkpoint pode reivindicar: dezesseis meses de tráfego de produção de outras pessoas. Modos de falha que outra pessoa já enfrentou e documentou. Quantizações, fine-tunes, receitas de LoRA e guias de implantação para todo framework de serving que importa. Quase dez milhões de downloads no Hub e mais de duas mil curtidas, com uma linhagem instruct por trás. Quando um modelo está público há tanto tempo, o ecossistema ao seu redor é uma parte genuína de sua capacidade, e nenhuma data de lançamento pode ser retroativamente atribuída a isso.

Granite Switch 4.1 8B: o que uma nova forma traz

O checkpoint da IBM é uma composição, e não um modelo, e as partes estão documentadas em um manifesto de build versionado ao lado dos pesos. Base: Granite 4.1 8B, 40 camadas, tamanho oculto 4.096, 32 cabeças de consulta contra 8 cabeças KV, janela de 131.072 tokens, vocabulário de 100.352 tokens. Adaptadores: guardian-core, rank 16, alpha 64, sobre as projeções de atenção (k_proj, o_proj, q_proj, v_proj), detectando danos, jailbreak, profanidade, violência, conteúdo sexual, viés social e comportamento antiético; e decision, rank 64, alpha 128, sobre todas as sete projeções, incluindo a MLP, retornando um softmax calibrado sobre tokens de opção rotulados em uma única passagem direta. Codificador: Granite Speech 5.0 TurboCTC, 470M parâmetros, conformer CTC não autorregressivo, inglês. Licença: Apache-2.0, igual ao Qwen3-8B.

A capacidade sem equivalente no Qwen3-8B é o adaptador de decisão. Você fornece a ele um estado e uma pergunta com opções rotuladas, e ele retorna uma distribuição, não uma resposta — a chamada documentada solicita ao vLLM os logprobs exatamente dos ids dos tokens de rótulo por meio de logprob_token_ids e calcula a exponencial, produzindo uma saída com o formato A: 0.982, B: 0.0035, C: 0.014. Você pode instruir o Qwen3-8B a escolher um rótulo e ele escolherá, competentemente, e você obterá uma letra. Uma letra não pode ser submetida a limiar como uma pontuação calibrada, ter sua média calculada entre turnos, ou ser registrada como um valor de confiança. Essa é a diferença, e não é uma diferença que escala corrige.

A segunda coisa que a composição traz é aritmética. Cada adaptador compartilha o cache de chave/valor do modelo base em vez de manter o próprio, então passar de nenhum adaptador para dois mais um codificador de fala custa 4,72% em parâmetros, em vez de um estado de atenção novo por capacidade. A postagem de lançamento da IBM afirma que o modelo composto consome aproximadamente a mesma VRAM que o modelo base sozinho; essa alegação específica não foi reproduzida, mas o delta de parâmetros no qual ela se baseia está ali mesmo no manifesto. É também por isso que a postagem de lançamento pode descrever uma corrida entre um Granite Switch composto de 30B e um modelo de decisão de 27B como uma vantagem de velocidade, e não uma penalidade de memória.

• Parâmetros — 8,78B compostos (8,38B base) vs 8,2B.

• Camadas — 40 vs 36.

• Contexto — 131.072 nativo vs 32.768 nativo, 131.072 com YaRN.

• Vocabulário — 100.355 vs 151.936.

• Idiomas — doze nomeados (inglês, alemão, espanhol, francês, japonês, português, árabe, tcheco, italiano, coreano, holandês, chinês) vs mais de 100.

• Raciocínio — nenhum vs pensamento híbrido e não-pensamento em um único checkpoint.

• Saída estruturada — softmax calibrado sobre tokens de rótulo vs escolha por prompt.

• Entrada de áudio — codificador ASR incorporado de 470M vs nenhum.

• Ecossistema — com dois dias de vida, sem quantizações ou ajustes finos que mereçam menção versus dezesseis meses de trabalho da comunidade.

Onde o Qwen3-8B ainda vence

Idiomas, decisivamente. Doze idiomas nomeados contra mais de cem não é um erro de arredondamento para quem entrega a um público global, e é a primeira coisa que um teste de migração vai detectar. O vocabulário conta a mesma história: 151.936 tokens contra 100.355, com os três IDs de adaptador reservados do Granite arredondando-o para 100.355. Um modelo treinado em cem idiomas foi treinado em cem idiomas.

O contexto nativo é o segundo. 131.072 tokens de fábrica contra 32.768 com um caminho de extensão YaRN. O Granite Switch 4.1 8B até alcança os mesmos 131K, mas chega lá de forma nativa, e a extensão YaRN tem um custo no comportamento em contextos longos que uma janela nativa não tem.

O terceiro é o que decide a maioria das migrações reais: nada está quebrado. Não há integração para reescrever, nem stack de serving para mudar, nem comportamento para reaprender. Todos os modos de falha já foram mapeados por outra pessoa, e os fine-tunes que você talvez já tenha são seus. Um concorrente precisa ser significativamente melhor para que valha a pena abrir mão disso, e, com dois dias de existência e sem avaliação independente, o Granite Switch 4.1 8B não estabeleceu que seja.

Onde o Granite Switch 4.1 8B vence

Pontuação de decisão, e a forma operacional que vem com ela. Se a sua aplicação precisa de um valor de confiança sobre opções rotuladas — encaminhar um ticket, pontuar um limite de escalonamento, escolher uma ferramenta com um número associado — isso é uma primitiva que o Qwen3-8B não fornece, e o prompting não a fabrica. O valor publicado para este adaptador é o Decision Index, edição v0.3, subconjunto público rápido de 1.068 linhas: 42,9 no geral, com Conhecimento 29,1, Linguagem 48,9, Recuperação 49,8, Ferramentas 59,8 e Artes 18,0. A IBM o executou, a IBM o publicou, ninguém o reproduziu, e o próprio card diz que as probabilidades são uma priori, em vez de uma classificação certificada, em domínios para os quais o adaptador não foi treinado.

A consolidação de endpoints é a segunda. Chat, decisões e transcrição em um único endpoint, com a transcrição acionada por um simples input_audio que é uma parte de conteúdo, em vez de um segundo serviço. Os avisos do cartão da IBM se aplicam e vale a pena repeti-los literalmente em espírito: apenas inglês, saída em minúsculas e sem pontuação, e o codificador de fala e o LLM não são treinados conjuntamente, então uma transcrição incorreta pode alterar silenciosamente aquilo a que o modelo responde.

E a componibilidade é a terceira — o composer é público, o catálogo de adaptadores é aberto, e você pode criar sua própria variante em vez de aceitar a escolha da IBM de dois adaptadores.

O que fazer enquanto o slot 8B está vazio

A jogada produtiva não é migrar. É tratar o Granite Switch 4.1 8B como candidato para os pedidos específicos que o Qwen3-8B lida mal — aqueles que terminam num valor de confiança, ou que chegam como áudio — e deixar todo o resto onde está. Isso é um problema de encaminhamento, não de reescrita: envie as chamadas em formato de decisão para um lado e o tráfego conversacional para o outro, e mantenha o caminho de fallback intacto enquanto descobre se a nova forma realmente se sustenta no seu tráfego.

Esta é a camada que o OrcaRouter ocupa, e vale a pena ser preciso sobre o que isso significa aqui: o Qwen3-8B não está no nosso catálogo hoje e o Granite Switch 4.1 8B também não, então não somos uma forma de obter nenhum dos dois — o Qwen3-8B é um download do Hugging Face e o Granite Switch 4.1 8B é um download do Hugging Face mais um contêiner vLLM. O que a plataforma faz é o trabalho ao redor: uma única chave de API para mais de 200 modelos hospedados, failover automático para que um candidato possa ocupar um caminho ativo sem ser um ponto único de falha, a DSL de roteamento para compor vários modelos em uma única chamada, e preço de tabela do provedor repassado com 0% de markup para que um corte de preço do fornecedor entre em vigor no mesmo dia, em vez de na próxima atualização. Se você quiser ver como um Qwen de geração atual se comporta em um endpoint hospedado enquanto avalia isso, Qwen3.8-27B está no catálogo e é da mesma família que o incumbente nesta comparação.

Conclusão

Mantenha o Qwen3-8B como padrão. Dezesseis meses de produção, mais de cem idiomas e um vocabulário de 151.936 tokens não são vantagens que um checkpoint com dois dias de vida supera apenas pela arquitetura, e o fato de a Alibaba não ter lançado um sucessor de 8B não faz do Granite Switch 4.1 8B esse sucessor — faz dele uma ferramenta diferente que por acaso fica na mesma classe de memória. Adote-o de forma restrita e específica: para solicitações que exigem uma distribuição calibrada entre opções rotuladas, para triagem de segurança em linha e para áudio no mesmo endpoint do chat. Teste-o no seu próprio conjunto de rótulos antes de confiar em 42,9, porque esse número é da IBM e apenas da IBM. O interessante nesse confronto não é que um modelo supere o outro — é que a posição de 8B permaneceu vazia, e o modelo que a preencher a seguir pode não ser de forma alguma um 8B denso.