Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B: O que "Switch" significa em cada nome

Ambos esses modelos têm cerca de 30B, ambos têm no nome uma palavra que soa como roteamento, e fazem coisas completamente diferentes com ela. Granite Switch 4.1 30B — pesos no Hub desde 14 de outubro de 2026 — alterna adaptadores: um modelo base denso, dois anexos LoRA ativados, cada token percorrendo a rede completa. Nemotron 3.5 Lightning 30B A3B, que a NVIDIA publicou em 11 de agosto de 2026, alterna especialistas: uma pilha híbrida de Mamba-2 e MoE em que apenas cerca de 3 bilhões dos 30 bilhões de parâmetros são acionados por token. Ninguém colocou os dois em benchmarks um contra o outro e este texto não vai fingir o contrário. A comparação genuinamente útil é quanto cada design custa por token e o que ele devolve.

Fazer a distinção corretamente não é pedantismo, porque os nomes induzem exatamente a inferência errada. "Switch" em Granite Switch refere-se a uma camada de comutação leve que lê tokens de controle na entrada e diz a cada camada do decodificador quais pesos LoRA aplicar ao longo desse intervalo de tokens. Não é roteamento de mistura de especialistas e não reduz a computação por token em um único FLOP. "A3B" no nome da NVIDIA é o oposto: é uma afirmação explícita sobre quão pouco do modelo é executado no momento da inferência.

O placar, dimensão por dimensão

• Parâmetros — Granite Switch 4.1 30B compõe-se para 29.989.814.272 sobre uma base de 28.865.728.512 (+3,89%); Nemotron 3.5 Lightning 30B A3B é 30B no total com aproximadamente 3B ativos por token.

• Arquitetura — transformador denso somente decodificador mais dois adaptadores LoRA ativados versus um híbrido intercalado de Mamba-2, MoE e atenção.

• Cálculo por token — forward pass denso completo de 30B contra aproximadamente um décimo disso em parâmetros ativos, que é justamente o propósito do sufixo A3B.

• Contexto — 131.072 tokens no checkpoint Switch; até 1M no Nemotron Lightning, com a NVIDIA documentando 256K como o valor prático em uma única H100.

• Modo de raciocínio — nenhum no template de chat do Switch; um enable_thinking alternador configurável no do Nemotron.

• Entrada de áudio — um codificador de fala de 470M embutido no modelo Switch; nenhum do lado da NVIDIA.

• Licença — Apache-2.0 versus OpenMDW-1.1. Não são o mesmo documento e os termos a jusante são diferentes; leia aquele sob o qual você está de fato distribuindo.

• Hardware — o cartão Switch lista Transformers e vLLM dentro de uma janela estreita de versões; a NVIDIA documenta o Nemotron Lightning em uma única H100 ou A100 80GB, com uma build NVFP4 destinada à implantação.

O que o checkpoint Granite Switch está realmente trazendo para você

A composição é o produto. Granite Switch 4.1 30B congela o Granite 4.1 30B e anexa dois adaptadores — um classificador de segurança guardian-core de rank 16 nas projeções de atenção e um adaptador decision de rank 64 em todas as sete projeções — além do codificador de fala. A seleção de adaptador acontece por meio do template de chat quando você passa um adapter_name, portanto é um parâmetro de requisição, não um segundo serviço.

O que isso proporciona é densidade de capacidade: um veredito de segurança, uma distribuição calibrada de opções e uma transcrição a partir de um único processo, por 1,12 bilhão de parâmetros extras além de uma base que você já ia carregar de qualquer forma. Seis meses atrás, o mesmo projeto lançou um checkpoint de pré-visualização com doze adaptadores a um acréscimo de 11,68%; a versão final reduziu isso para dois a 3,89%, o que é a IBM trocando cobertura por legibilidade. Os outros dez adaptadores ainda existem, e o composer montará para você um checkpoint com qualquer subconjunto.

Os custos estão exatamente onde você esperaria. Nada na maquinaria do adaptador torna o modelo base mais rápido, porque o modelo base é denso e intocado — cada token ainda executa a rede inteira. O caminho de fala é apenas em inglês, em minúsculas, sem pontuação e, nas próprias palavras da IBM, não treinado em conjunto com o modelo de linguagem, de modo que uma transcrição incorreta altera silenciosamente a pergunta que o modelo responde. E o checkpoint é disponibilizado em uma única precisão, sem uma build quantizada oficial, em contraste com um modelo da NVIDIA cuja variante NVFP4 recomendada para implantação está no Hub desde o início de agosto.

O que os números do Nemotron estão realmente medindo

A tabela de benchmarks da NVIDIA para o Nemotron 3.5 Lightning 30B A3B é mais completa do que a da IBM para o modelo Switch, e vale a pena ler a nota de rodapé que a acompanha. Os números — MMLU-Pro 81.94, GPQA Diamond 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58, PinchBench 85.37, AA-LCR 52.00 em contexto longo — são descritos pela NVIDIA como medidos sob seu próprio harness consistente, com a ressalva de que podem diferir dos números autorrelatados por outros fornecedores. Esse enquadramento é mais honesto do que a maioria dos cards de modelo consegue, e ainda assim os deixa como relatados pelo fornecedor. A NVIDIA publicou as receitas no NeMo Gym para que as execuções sejam reproduzíveis por outra pessoa, o que não é o mesmo que outra pessoa tê-las reproduzido.

A afirmação mais interessante é a que se refere à velocidade, e não à precisão. Um modelo de 30B com 3B parâmetros ativos é uma aposta de que a maior parte do trabalho agêntico não precisa que a rede inteira seja ativada em cada token, e a NVIDIA lançou a decodificação especulativa juntamente com ele — cabeças de previsão multi-token, além dos drafters DFlash e DSpark — para impulsionar ainda mais a taxa de transferência. Também posiciona o Lightning como uma camada de execução sob um planejador maior, em vez de como o modelo a quem se faz perguntas difíceis. Esse posicionamento é da NVIDIA, e é também a lente correta para a tabela de benchmark: A eficiência ao nível do token é o que aparece na fatura.

A armadilha de colocar esses dois placares juntos

Há um número publicado para a principal capacidade do modelo Switch — o Decision Index, edição v0.3, subconjunto rápido público de 1.068 linhas, Geral 50.1, com Conhecimento 32.4, Linguagem 58.6, Recuperação 49.8, Ferramentas 76.5 e Artes 26.4 — e há uma tabela completa de benchmark para o Nemotron Lightning. Colocar 50.1 ao lado de 81.94 ou 51.56 seria um erro de categoria do tipo mais puro.

O Decision Index avalia quão bem o adaptador de decisãoclassifica um conjunto fixo de opções rotuladas. Não é uma medida da qualidade de chat ou raciocínio do modelo base, e o modelo base não é modificado pelo adaptador. A tabela do Nemotron avalia o modelo completo em conhecimento, raciocínio, programação e contexto longo. Eixos diferentes, estruturas de avaliação diferentes, autores diferentes e nenhum benchmark compartilhado entre eles. Ambos são relatados pelo fornecedor. Nenhum dos dois é comparável ao outro, e a única coisa honesta a fazer com o par é recusar-se a subtraí-los.

O que você pode legitimamente fazer é ler a forma de cada um. O 76,5 do Decision Index em Ferramentas contra 26,4 em Artes diz que vale a pena apontar o adaptador para decisões de seleção de ferramentas e que não se deve confiar nele para classificação de domínio aberto sem sua própria avaliação. O 51,56 do Nemotron no SWE-bench Verified contra o melhor de 70,12 na mesma tabela mostra que ele não é o agente de codificação mais forte em seu próprio conjunto de comparação — a NVIDIA colocou o número mais alto de um concorrente em sua própria tabela, o que é, no mínimo, um sinal que merece respeito.

Qual deles, para quê?

Se o seu problema é um loop de agente longo executando milhares de decisões curtas de ferramentas, a economia de parâmetros aponta numa direção: um MoE com 3B ativos em uma única GPU fará esse trabalho a uma fração do custo por token de um denso de 30B, e o modelo Switch não tem nenhum mecanismo para fechar essa lacuna, porque seu "switch" nunca reduz a computação. Some o contexto de 1M e a alternância de raciocínio, e o modelo da NVIDIA é simplesmente construído para essa carga de trabalho.

Se o seu problema é um único processo que precisa responder a um usuário, emitir uma decisão de roteamento calibrada e transcrever o que o usuário disse, a aritmética se inverte. O Nemotron 3.5 Lightning não tem cabeça de decisão nem caminho de áudio algum, e pedir a um modelo de chat que, por favor, responda com uma única letra não é uma distribuição calibrada. O Granite Switch 4.1 30B entrega os três a partir de um único checkpoint por menos de 4% a mais de pesos do que sua base, e isso é uma capacidade que você não pode comprar escolhendo um modelo melhor.

O terceiro caso honesto é o mais comum: você não está escolhendo entre eles de modo algum. Ambos são artefatos de auto-hospedagem, ambos são Apache-2.0 ou OpenMDW-1.1, e não um endpoint hospedado, e nenhum dos dois foi avaliado de forma independente. O Granite Switch 4.1 30B tem dois dias de lançado, com um único valor publicado; o Nemotron 3.5 Lightning tem dois meses de lançado, com uma tabela do fornecedor e receitas publicadas. Isso não é o suficiente para planejar uma migração.

Conseguir uma resposta real sem uma migração

Nenhum dos modelos está no catálogo do OrcaRouter hoje, então ambos significam seu próprio hardware e os próprios canais de lançamento do fornecedor — os da IBM para o checkpoint do Switch, os da NVIDIA para o Lightning. Dizer o contrário seria inventar um endpoint.

Onde a plataforma justifica o seu lugar é no facto de um candidato dever ser barato de testar. Uma única chave cobre mais de 200 modelos com failover automático e repassa o preço de tabela do fornecedor com 0% de margem, pelo que, quando surgir uma rota alojada para qualquer dos modelos, colocá-la ao lado do modelo que já está em produção é uma alteração de configuração e não um ciclo de aquisição. Perante dois modelos de pesos abertos de 30B que ambos parecem razoáveis no papel e que ninguém fora do respetivo fornecedor mediu, a decisão que importa não é em qual cartão acredita. É quão barato lhe sai descobrir.

Conclusão

Granite Switch 4.1 30B e Nemotron 3.5 Lightning 30B A3B compartilham uma contagem de parâmetros e quase nada mais. Um é uma base densa com adaptadores comutáveis que oferece três tarefas por processo com computação densa completa por token; o outro é um híbrido esparso construído para fazer cada token custar o mínimo possível e executar um loop longo em uma única GPU. Escolha com base no formato da carga de trabalho, não em uma tabela de benchmark — e, se você levar uma única coisa daqui, leve a correção nos nomes: a troca de adaptadores compra capacidade, a esparsidade de especialistas compra vazão, e nenhum modelo aqui compra ambos.