Nemotron 3.5 Bolt 74B vs LFM2.5 24B A2B: Duas formas de encaixar um agente em 24 GB

The interesting thing about N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB and Liquid AI LFM2.5 24B A2B is not that one is three times bigger. It is that both are answers to the same constraint — an agent that runs on a machine you own rather than a machine you rent — and they answer it from opposite directions. One compresses a very large model until it fits. The other is designed small from the first token and spends its budget on being fast rather than on being large.

Os números são próximos o suficiente para serem confusos. Bolt é um checkpoint de 74 bilhões de parâmetros com 9 bilhões ativos por token, armazenado a aproximadamente dois bits por peso de especialista, em um arquivo de 24 GB. O LFM2.5-24B-A2B é um checkpoint de 24 bilhões de parâmetros com 2,45 bilhões ativos por token, em precisão comum. Ambos são misturas de especialistas. Ambos funcionam sem rede. Por trás do discurso que soa semelhante, quase toda escolha de engenharia é diferente.

O que LFM2.5-24B-A2B realmente é

O checkpoint da Liquid AI é o maior e último membro da família LFM2.5 e o último dessa família que ainda será lançado. Seus pesos foram publicados no Hugging Face no início de outubro, e a empresa o anunciou em 13 de outubro de 2026, então ele é praticamente tão novo quanto o Bolt e também não acumulou muitos resultados independentes.

Architecturally it is a specific bet. Forty layers, of which thirty are double-gated short-convolution blocks and ten are grouped-query attention — a mostly-convolutional stack with attention used sparingly, rather than the Mamba-2/attention interleave N​VIDIA uses. Sixty-four experts per MoE block with top-4 routing, which means the model reads four experts per token out of sixty-four. 2.45 billion parameters active per token against 24.0 billion resident. A 128,000-token vocabulary, 36 trillion training tokens, and a 131,072-token context window.

É somente texto, e sempre pensa antes de responder — o traço de raciocínio não é opcional. A Liquid posiciona-o contra modelos uma vez e meia maiores em tarefas agênticas, e apresenta uma pontuação LiveClaw de 48,09 contra 38,19 do Qwen3.6-35B-A3B para embasar isso. Trata-se de uma comparação de fornecedor em um benchmark selecionado pelo fornecedor e deve ser lida como tal, mas a contagem de parâmetros ativos da qual se vangloria é verificável na própria configuração do modelo.

O que o Bolt realmente é

Bolt is not a model that was designed small. It is N​emotron 3.5 Super VL 120B-A12B after N​VIDIA ran Star Elastic over it — a router-guided architecture search that has to satisfy a hard footprint, in this case under 24GB at batch size 1 and 128K context — and then quantised its expert weights to IQ2-XXS at 2.0625 bits per element with quantisation-aware distillation to recover what that cost.

A compressão é agressiva de uma forma que a contagem de parâmetros do Bolts oculta. O top-K dos especialistas caiu de 22 no modelo pai para 9, que é quase o mesmo top-K do top-4 do LFM2.5, apesar de o modelo carregar três vezes mais parâmetros. A torre de visão foi reconectada depois a partir do modelo pai, então o Bolt aceita imagens e vídeo onde o LFM2.5-24B-A2B aceita apenas texto, e herdou uma janela de contexto de 256K, o dobro da do Liquid.

N​VIDIA's published claim for the compression is a general one worth repeating: for a fixed memory budget, compressing a large model beats training a small one from scratch. Bolt is that claim as an artifact. And N​VIDIA's own framing makes the comparison explicit — its model card states that the G​emma and Q​wen baselines were selected for fitting in 24GB at 4-bit, which is a different route to the same envelope than Bolt's 2-bit weights.

O contraste das especificações, ambos os lados em uma linha.

• Parâmetros totais e ativos — Bolt: 74B no total, 9B ativos por token. LFM2.5-24B-A2B: 24,0B no total, 2,45B ativos por token.

• Backbone — Bolt: blocos de espaço de estados Mamba-2 intercalados com mistura de especialistas e atenção. LFM2.5-24B-A2B: trinta blocos de convolução curta com portão duplo mais dez camadas de atenção com consultas agrupadas.

• Roteamento — Bolt: top-9 especialistas após compressão, reduzido de 22 no modelo pai. LFM2.5-24B-A2B: 64 especialistas por bloco, top-4.

• Precisão armazenada — Bolt: especialistas IQ2-XXS a 2,0625 bits por elemento, camadas Mamba em NVFP4, embeddings e saída em Q8_0. LFM2.5-24B-A2B: pesos em precisão completa, com GGUF, FP8, ONNX e várias larguras de bits MLX publicados como irmãos pelo fornecedor.

• Contexto — Bolt: até 262.144 tokens. LFM2.5-24B-A2B: 131.072 tokens.

• Modalidade — Bolt: texto, imagens e vídeo como entrada, texto como saída. LFM2.5-24B-A2B: texto como entrada, texto como saída.

• Licença — Bolt: OpenMDW-1.1. LFM2.5-24B-A2B: lfm1.0, gratuita para uso comercial abaixo de US$ 10 milhões em receita anual e uma licença comercial paga acima disso.

• Índice de Inteligência — Bolt: 21, medido pela Artificial Analysis. LFM2.5-24B-A2B: não existe perfil da Artificial Analysis para este checkpoint, portanto não há uma pontuação independente comparável e este artigo não vai inventar uma.

• Preço publicado — Bolt: nenhum em lugar algum, e nenhum endpoint hospedado. LFM2.5-24B-A2B: US$ 0,10 por milhão de tokens de entrada, com tarifa de cache de US$ 0,05, e US$ 1,00 por milhão de saída, no endpoint hospedado da própria Liquid, com US$ 2 de crédito inicial.

Esse último pareamento é o fato mais contundente da comparação, e ele aponta na direção que a maioria das pessoas não espera: o modelo com a menor pegada é o que tem um preço, e o modelo com a maior pegada é o que não tem. O Bolt não pode ser testado sem comprar hardware. O LFM2.5 pode ser testado hoje à tarde por um erro de arredondamento.

Velocidade, e o cuidado com que se leem os números

Nenhum dos modelos tem uma medição independente de datacenter. Este é o estado honesto das evidências e restringe o que pode ser dito.

Para o LFM2.5-24B-A2B, a Liquid reporta 184 tokens por segundo num Apple M5 Max e 114 num AMD Ryzen AI Max+ 395, e afirma uma inferência até 1,7× mais rápida do que MoEs comparáveis no dispositivo. São números do fornecedor em hardware de classe portátil, não reproduzidos por mais ninguém, e não dizem nada sobre o que o modelo faz numa GPU de centro de dados com muitos pedidos simultâneos.

For Bolt, N​VIDIA reports 83.99 tokens per second on AIPerf SPEED-Bench-Coding with the LiLiCorr speculative drafter active, on an RTX Spark-class machine. That is also vendor-reported, also unreproduced, and measured on a different benchmark against different silicon, so it cannot be set beside Liquid's 184 and treated as a comparison. The honest statement is that both companies measured their own model on their own preferred hardware and neither number transfers.

O que é estrutural, e não medido: o Bolt lê 9 bilhões de parâmetros por token, e o LFM2.5 lê 2,45 bilhões. Com a mesma largura de banda de memória, um MoE lê aproximadamente em proporção aos seus parâmetros ativos, e pesos de especialistas em baixa precisão ajudam ainda mais ao reduzir os bytes movidos por parâmetro. O LFM2.5 tem o conjunto ativo menor por um fator de 3,7, e está rodando com precisão mais alta por peso, então o tráfego de bytes por token é o ponto a se observar. Isso é um argumento de que o modelo da Liquid deveria ser mais rápido, não uma medição de que ele é.

Qual deles baixar

A divisão aqui não é capacidade versus capacidade, porque eles não estão tentando realizar a mesma tarefa. Bolt é um agente multimodal que lê capturas de tela e controla um navegador na escala de 74B, comprimido até caber. LFM2.5-24B-A2B é um agente de texto criado para responder rápido em uma máquina sem nenhuma GPU dedicada.

Recorra ao Bolt quando o agente precisar enxergar — WebArena, PDFs, quadros de vídeo — ou quando a carga de trabalho for executada offline em uma máquina que já tenha um acelerador da classe Blackwell, e quando você aceitar que será a primeira pessoa a medir sua taxa de transferência. Recorra ao LFM2.5-24B-A2B quando a tarefa for texto, a máquina for um laptop, a latência importar mais do que a profundidade de raciocínio, e o ponto principal for que o modelo caiba na memória unificada junto com o resto dos seus aplicativos.

As duas coisas que mudariam a resposta: um benchmark independente executado em ambos, e qualquer hospedagem publicada para o Bolt. Nenhuma das duas existe hoje.

Executando-os ao lado de um modelo hospedado

Both of these checkpoints are, by design, things you run yourself. Neither is on our catalogue — the catalogue was checked rather than assumed, and neither the N​emotron nor the LFM2.5 families appear in it — so this section is not a pitch for hosting either one. It is a note about what sits beside them.

Um agente local de 24B num portátil trata do trabalho rotineiro: encaminhamento, resumos, formatação de chamadas de ferramentas, os noventa por cento dos turnos que nunca precisaram de um modelo grande. Os turnos que precisam mesmo de um continuam a ter de ir a algum lado, e é aí que um router ganha o seu lugar. O OrcaRouter expõe mais de 200 modelos por trás de uma única chave, ao preço de tabela do fornecedor e com 0 por cento de margem acrescentada, pelo que um corte de preço do fornecedor fica ativo do nosso lado no próprio dia, e a sua DSL de routing permite-lhe descrever uma composição — um modelo barato para a primeira passagem, uma regra de escalonamento, um fallback — como uma única chamada em vez de código de aplicação. O failover automático entre fornecedores significa que um problema de capacidade a montante é repetido em vez de ser apresentado aos seus utilizadores.

Para quem desenvolve sobre um executor local, essa divisão do trabalho é o motivo pelo qual um checkpoint pequeno continua viável: o modelo pequeno dá conta do volume, e o modelo caro é acessado sem um segundo contrato ou um segundo SDK.

O que resolveria isso

Two measurements are missing and both are cheap for someone with the hardware. The first is a like-for-like throughput and latency run: LFM2.5-24B-A2B against the 24GB Bolt checkpoint, same harness, same batch sizes, same context lengths, on the same accelerator. Nobody has run it. The second is a third-party evaluation of LFM2.5-24B-A2B on the benchmarks N​VIDIA used, so that the LiveClaw claim and the Bolt table can be read against each other instead of being quoted in parallel from two different marketing pages.

Até então, a escolha é uma decisão de orçamento de memória, e não uma decisão de benchmark. Um modelo exige que você tenha uma GPU com 24 GB de poder computacional da classe Blackwell e, em troca, oferece visão e 74B de raciocínio destilado. O outro exige apenas um laptop, custa centavos por hora para testar nos servidores de outra pessoa e abre mão da visão e de metade da janela de contexto para chegar lá.

O que os números não podem dizer é se algo deu errado em campo: os incidentes de IA documentados e as falhas de agentes envolvendo modelos dessa classe estão reunidos em o OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, gravidade, grau de confiança e sinalização de contestação.