Granite Switch 4.1 8B vs LFM2.5 2.6B Base: Existe uma Escolha Real Aqui?

Este é o par do conjunto que menos parece uma luta justa, por isso vamos lidar com isso imediatamente em vez de fingir o contrário. Granite Switch 4.1 8BGranite Switch 4.1 8B é um checkpoint composto de 8,78 bilhões de parâmetros que a IBM publicou em 14 de outubro de 2026: um Granite 4.1 8B congelado com dois adaptadores comutáveis e um codificador de fala, fazendo chat, pontuação de decisões e transcrição a partir de um único endpoint. LFM2.5 2.6B BaseLFM2.5 2.6B Base é um modelo de texto pré-treinado de 2,69 bilhões de parâmetros que a Liquid AI publicou em 1º de agosto de 2026, criado especificamente para implantação em dispositivo — e, o que é importante, seu próprio cartão de modelo diz que é um checkpoint base "recomendado apenas para tarefas que exigem ajuste fino intenso". Compará-los como se um pudesse substituir o outro é um erro de categoria. Compará-los revela algo mais útil: onde fica, de fato, o limite de cada um, e por que quase ninguém vai escolher entre esses dois.

Portanto, isto não é uma competição. É um mapa da decisão que você estaria realmente a tomar — aquela em que tem um alvo na edge e um alvo no servidor, e está a tentar descobrir qual modelo vai para onde.

Para que serve cada um

LFM2.5 2.6B Base é uma arquitetura híbrida, e o híbrido é o ponto. Trinta camadas, das quais 22 são blocos de convolução curta com portas duplas e 8 são atenção de consulta agrupada — portanto, a maior parte da pilha é convolução em vez de atenção, o que mantém a pegada de memória e o custo por token baixos em hardware pequeno. Tamanho oculto de 2.048, 32 cabeças de consulta contra 8 cabeças KV, um contexto de 131.072 tokens, um vocabulário de 128.000 tokens e um orçamento de pré-treinamento de 34 trilhões de tokens. Dezesseis idiomas são listados: inglês, árabe, chinês, francês, alemão, italiano, japonês, coreano, português, espanhol, vietnamita, tailandês, indonésio, hindi, russo e polonês. A Liquid descreve a família como concebida para implantação no dispositivo e disponibiliza o modelo instruct irmão nos formatos GGUF, ONNX e MLX, juntamente com o checkpoint nativo.

O Granite Switch 4.1 8B é o instinto oposto aplicado ao problema oposto. Em vez de encolher o modelo, ele mantém um backbone de texto relativamente grande e acrescenta capacidade lateralmente. A base é o Granite 4.1 8B: 40 camadas, tamanho oculto de 4.096, 32 cabeças de query contra 8 cabeças KV, uma janela de 131.072 tokens, um vocabulário de 100.352 tokens. Sobre essa base ficam guardian-core, um adaptador LoRA ativado de rank 16 sobre as projeções de atenção que detecta danos, jailbreak, linguagem obscena, violência, conteúdo sexual, viés social e comportamento antiético; decision, um adaptador de rank 64 sobre todas as sete projeções que retorna uma softmax calibrada sobre tokens de opção rotulados em uma única passagem direta; e o Granite Speech 5.0 TurboCTC, um codificador conformer não autorregressivo de 470M de parâmetros para transcrição. O total composto é de 8.776.400.896 parâmetros, contra uma base de 8.380.551.168 — um aumento de 4,72%.

A dimensão que decide: instruct versus base

A maior diferença entre esses dois checkpoints não é o tamanho nem a arquitetura. É que um é um modelo finalizado e o outro é matéria-prima.

Granite Switch 4.1 8B é entregue pronto para ser chamado. Os adaptadores já vêm compostos, os tokens de controle são conectados por meio do template de chat, as receitas de invocação para o adaptador de decisão estão documentadas com código funcional, e o card lista as versões exatas de Transformers e vLLM que ele requer. Você o baixa, o executa, e ele realiza as três tarefas.

LFM2.5 2.6B Base não faz nada disso, por design. A orientação da própria Liquid é que este checkpoint é para "assistentes específicos de idioma (por exemplo, japonês) ou específicos de domínio (por exemplo, médico), treinamento em dados proprietários, ou experimentação com novas abordagens de pós-treinamento" — e se o que você quer é um modelo que responda a perguntas de imediato, o card aponta para o irmão pós-treinado. Um checkpoint base não tem comportamento de seguimento de instruções para comparar, nem alinhamento, nem disciplina de template de chat. Coloque os dois na mesma avaliação e o modelo Granite parecerá dramaticamente melhor por um motivo que não tem nada a ver com qual é o melhor modelo: um foi pós-treinado e o outro não.

• Parâmetros — 8.78B compostos vs 2.69B.

• Camadas — 40 blocos transformer densos vs 30 híbridos (22 de convolução curta com duplo portão + 8 GQA).

• Contexto — 131.072 tokens vs 131.072 tokens. Empate absoluto, o que é incomum e vale a pena notar.

• Vocabulário — 100.355 (três IDs reservados para os adaptadores) vs 128.000.

• Modalidades — texto e áudio de entrada, texto de saída vs. apenas texto.

• Tipo de checkpoint — composto, pós-treinado, pronto para chamar vs. base pré-treinada para ajuste fino.

• Licença — Apache-2.0 vs a licença LFM 1.0, que não é Apache. Essa distinção importa comercialmente e é fácil de passar despercebida.

• Evidência publicada — um Decision Index conduzido pelo fornecedor, com 42,9 no geral, sem avaliação independente, vs. nenhum benchmark público comparável para o checkpoint base.

O que 2,69B compra para você que 8,78B não consegue

Portabilidade, e não é uma vantagem secundária. Um modelo de 2,69B com 22 de suas 30 camadas construídas a partir de convoluções curtas foi projetado para viver em um dispositivo — um laptop, um SoC de classe de telefone, um dispositivo embarcado — e a Liquid fornece variantes quantizadas GGUF, ONNX e MLX exatamente para isso. Um checkpoint composto de 8,78B com um codificador de fala de 470M é um artefato do lado do servidor. Ele roda em uma GPU, em um contêiner, atrás de um endpoint.

Isso significa que os formatos de implantação não se sobrepõem: um é para o caso em que a solicitação não pode sair do dispositivo, o outro é para o caso em que pode. Se a restrição for "sem rede", a comparação termina antes mesmo de começar, e nenhuma quantidade de composição muda isso. Acrescente a isso a questão da licença — LFM 1.0 em vez de Apache-2.0 — e o checkpoint 2.6B é o que você escolheria quando pretende fazer ajuste fino do seu próprio modelo com seus próprios dados e lançá-lo em um produto, enquanto Granite Switch é o que você escolhe quando quer três capacidades hoje sob uma licença permissiva.

O que a composição te dá que 2,69B não consegue

Três tarefas a partir de um único endpoint, e uma probabilidade em vez de uma resposta.

O adaptador de decisão é a parte sem equivalente do outro lado. Dado um estado e uma pergunta com opções rotuladas, ele retorna um softmax calibrado sobre esses rótulos em uma única passagem direta — a chamada documentada pede ao vLLM os logprobs exatamente dos ids de token dos rótulos via logprob_token_ids e os exponencia, produzindo uma saída com o formato A: 0,982, B: 0,0035, C: 0,014. Os prompts fornecem um token; isto fornece um número que você pode limiarizar, calcular a média e registrar em log. Há também uma particularidade documentada que vale a pena conhecer antes de construir em cima disso: o vLLM limita logprob_token_ids a 128 ids por requisição, então uma pergunta com mais de 128 opções precisa que seus ids de rótulo sejam divididos em grupos de 128, uma requisição com prompt idêntico por grupo, com os resultados concatenados e um único softmax aplicado sobre o conjunto completo de rótulos. Como os logprobs retornados abrangem todo o vocabulário, o valor de cada rótulo é independente de qual grupo o solicitou, então o resultado dividido em grupos é matematicamente idêntico a uma chamada sem limite.

A fala no mesmo endpoint é a segunda. Envie uma parte de conteúdo input_audio numa conclusão de chat comum e o codificador de 470M transcreve-a antes de inserir a transcrição no contexto. As ressalvas da IBM são específicas e vale a pena repetir: saída apenas em inglês, em minúsculas e sem pontuação, e o codificador e o modelo de linguagem não são treinados em conjunto — não há uma projeção treinada que os acople, então uma transcrição incorreta pode mudar silenciosamente aquilo a que o modelo responde. Um modelo de borda sem qualquer caminho de áudio tem um problema diferente, e não nenhum problema.

E o adaptador de segurança é o terceiro: um classificador de danos e de jailbreak que usa o mesmo checkpoint, ativado por um token de controle que o template de chat insere quando você passa um adapter_name, em vez de precisar implantar e pagar por um segundo modelo.

Onde um roteador se encaixa quando a resposta é "ambos"

A versão realista desta comparação termina com os dois modelos no mesmo produto. O LFM2.5 2.6B Base, ajustado com fine-tuning, no dispositivo, cuidando do que não pode sair dele; o Granite Switch 4.1 8B, auto-hospedado, cuidando das decisões e da transcrição no lado do servidor. Essa é uma arquitetura de dois níveis, e a questão operacional que ela levanta é o que acontece na costura — um modelo no dispositivo que falha, um servidor saturado, uma requisição que precisa cair para outra coisa. Nenhum dos checkpoints está no catálogo do OrcaRouter hoje, então não somos o caminho para obter um ou outro; o ponto em que nos tornamos relevantes é a cadeia de fallback por trás deles. Uma única chave de API cobre mais de 200 modelos hospedados, com failover automático, a DSL de roteamento permite compor vários modelos em uma única chamada em vez de montar o fan-out à mão, e o preço de tabela do provedor é repassado com 0% de margem, de modo que um corte de preço de um fornecedor entra em vigor no mesmo dia. img src="4.png" alt="Uma captura de tela do catálogo de modelos do OrcaRouter, com o cabeçalho 210 modelos, 16 provedores, uma chave de API, uma fatura, com facetas de modalidade mostrando 173 modelos de texto, 12 de imagem, 5 de embeddings, 10 de vídeo e 10 de TTS, uma barra lateral de filtros para modalidades de entrada, comprimento de contexto, preço de entrada, status, nível de acesso, série e parâmetros suportados, e uma lista, do mais recente para o mais antigo, de cartões de modelo começando por OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol e Anthropic Claude Sonnet 5.5 com suas tarifas de entrada e saída por milhão de tokens." /> Essa é a camada que torna um design de dois níveis sobrevivível em vez de frágil, e vale a pena tê-la em vigor antes que o nível de borda comece a falhar em campo.

O veredito, tal como é

Escolha o LFM2.5 2.6B Base se você for fazer fine-tuning, se a inferência tiver de acontecer no dispositivo, ou se uma pegada de 2,69B for a restrição rígida. Escolha o Granite Switch 4.1 8B se você precisar de uma distribuição de decisão calibrada, de um classificador de segurança inline, ou de transcrição a partir do mesmo endpoint do chat, e se um contêiner com GPU for aceitável. A sobreposição entre esses dois casos de uso é quase zero, e é por isso que a resposta honesta para “qual vence” é que a pergunta está mal formulada — e por isso a coisa mais útil a levar consigo é que um checkpoint base de 2,69B e um modelo instruct composto de 8,78B não são dois pontos na mesma linha de qualidade. Eles são dois produtos diferentes que por acaso têm contagens de parâmetros adjacentes.