Nemotron 3.5 Bolt vs Nemotron 3.5 Lightning: O que a própria tabela da NVIDIA diz quando você lê as duas colunas

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB e NVIDIA Nemotron 3.5 Lightning 30B-A3B são dois níveis da mesma família, lançados com dez semanas de diferença, e o fabricante já publicou uma tabela que os coloca frente a frente. Isso é incomum e útil: a maioria das tabelas de comparação direta que você lê é montada por um jornalista ou por um fabricante escolhendo comparações lisonjeiras, e esta é de um laboratório avaliando seu próprio modelo mais novo contra o seu próprio modelo mais antigo, em público, com o mais antigo nomeado como linha de base. Ainda assim, são dados relatados pelo próprio fabricante e ninguém fora da NVIDIA reproduziu uma linha sequer dessa tabela — mas a intenção por trás dela não está em dúvida, nem a direção do resultado. O Bolt vence doze das treze linhas. Vale a pena entender exatamente qual delas ele perde e por que essa linha é a interessante.

A estrutura da família importa antes dos números. O Nemotron 3.5 Lightning foi lançado em 11 de agosto de 2026 como a camada de execução de uma pilha de agentes — um híbrido de 30B no total e 3B ativos que a NVIDIA destilou do muito maior Nemotron 3 Ultra especificamente para que um modelo de fronteira pudesse fazer o planejamento enquanto o Lightning processa chamadas de ferramentas em uma única GPU. O Bolt é de uma linhagem totalmente diferente: foi comprimido do modelo 120B-A12B Nemotron 3.5 Super VL, não do Ultra, e existe para ser um generalista de visão-linguagem que cabe em 24GB. Ambos têm pesos abertos sob a OpenMDW-1.1, ambos são misturas esparsas de especialistas em backbones híbridos Mamba-2, e ambos trazem decodificação especulativa — o Lightning com cabeças de Previsão de Múltiplos Tokens mais drafters DFlash e DSpark, e o Bolt com um drafter LiLiCorr conduzido via DFlash que propõe sete tokens à frente.

A linhagem compartilhada deixa de ser útil no momento em que você precisa decidir, porque os dois modelos respondem a perguntas diferentes. Um é um executor barato. O outro é um generalista local.

Lendo a tabela por função, não pela pontuação

Todos os números abaixo vêm do próprio model card da NVIDIA para o checkpoint Bolt 24GB, que lista o Lightning como baseline. A coluna Bolt é IQ2, um artefato quantizado de 2 bits. A coluna Lightning é BF16, não quantizada. Essa assimetria é a coisa mais importante a se saber sobre a tabela, e ela favorece o Bolt — ele está vencendo nessas linhas enquanto está comprimido cerca de oito vezes em relação ao seu modelo de origem.

• Raciocínio agêntico geral — GDPVal-AA-V2: Bolt 28,47, Lightning 18,26. Uma diferença de dez pontos, e a linha mais próxima de "quão bom ele é no trabalho cotidiano típico de escritório para o qual o modelo foi criado."

• Trabalho em terminal — Terminal-Bench 2.1: Bolt 50.98, Lightning 23.46. Esta é a maior diferença do ranking e não é surpresa, porque a própria orientação da NVIDIA para o Lightning é que ele não deve ser o agente principal. Uma avaliação independente registrou cerca de 24.6 para o Lightning no mesmo benchmark, o que é suficientemente próximo dos 23.46 do fornecedor para sugerir que o número é real.

• Raciocínio científico e de conhecimento — GPQA Diamond: Bolt 86,43, Lightning 75,57. SciCode: Bolt 41,02, Lightning 31,38. Humanity's Last Exam sem ferramentas: Bolt 25,30, Lightning 10,47. Consistência em três formatos diferentes de perguntas difíceis.

• Raciocínio de contexto longo — AA-LCR: Bolt 64,06, Lightning 49,19. Quinze pontos, e aqui a restrição de memória não é o fator limitante para nenhum dos modelos.

• Agência de web e navegação — BrowseComp: Bolt 66,75, Lightning 36,81. Trinta pontos. A maior diferença individual da tabela, e a que contradiz mais diretamente a ideia de Lightning como um executor autônomo.

• Densidade de uso de ferramentas — MCP-Atlas: Bolt 52,20, Lightning 46,4. PinchBench: Bolt 87,82, Lightning 83,43. Ambos mais próximos do que as diferenças acima, o que é consistente com o briefing de design real do Lightning: etapas de ferramenta curtas e de alta frequência.

• Visão — visão do WebArena: Bolt 50,86, Lightning não tem entrada. Isso não é uma lacuna de relatório. Lightning é texto entra, texto sai; não tem codificador de visão para pontuar.

A única linha em que o Lightning vence, e por que isso não é ruído

AA-Omniscience de não-alucinação: Nemotron 3.5 Lightning 68,81, Nemotron 3.5 Bolt 61,27. Na metade de acurácia da mesma avaliação, os dois ficam a menos de um terço de ponto um do outro — 16,90 para o Bolt contra 16,63 para o Lightning —, o que faz da diferença na metade de não-alucinação o quadro completo, e não um artefato de arredondamento. O modelo menor, mais antigo e não quantizado é mensuravelmente mais contido quanto a dizer coisas que não sabe.

Isso é um achado real e tem um mecanismo plausível. O Bolt alcançou seu footprint por meio de quantização agressiva de 2 bits com destilação ciente de quantização; a parte com perdas desse pipeline é exatamente a parte que governa a incerteza calibrada. O Lightning é menor, mas está em precisão BF16 total, e seu alvo de destilação era um modelo de raciocínio, não uma taxa de compressão. Se o modo de falha do seu agente é uma resposta errada com confiança que se propaga para uma ação, esta é a linha que você deve ponderar com mais peso — e nenhuma esperteza de roteamento corrige um modelo que inventa mais.

Fornecedores raramente publicam uma tabela contendo uma linha em que seu novo modelo perde. O fato de esta o fazer é uma pequena evidência de que a tabela não é puramente promocional.

O custo de atendimento é o verdadeiro segundo eixo

As pontuações acima não são toda a decisão, porque esses dois modelos não têm o mesmo custo de execução.

• Parâmetros ativos — o Bolt ativa 9B por token; o Lightning ativa cerca de 3B. Três vezes a computação por token para o modelo maior, em cada token, para sempre.

• Envelope de memória — Bolt é um arquivo de 24 GB com tudo já comprimido; Lightning é um checkpoint BF16 de 30B que quer uma única GPU e cabe confortavelmente em uma RTX 5090, um DGX Spark ou um componente Jetson.

• Contexto — ambos são especificados para 1M tokens, e ambos são, na prática, mais estreitos. O Lightning atende 256K em uma única H100 antes que os cálculos de memória fiquem complicados; a janela publicada do Bolt é 262.144, e essa janela compartilha os mesmos 24 GB com o cache KV, as imagens e os resultados das ferramentas.

• Alegações de velocidade — a NVIDIA afirma velocidade de saída até 4x maior em comparação com modelos de tamanho semelhante para o Lightning, por meio de seus modelos de rascunho MTP e DFlash/DSpark, e pelo menos 80 tokens por segundo de decodificação como meta de projeto para o Bolt, com 84 medidos no AIPerf SPEED-Bench no RTX Spark e 83,99 em uma execução do llama.cpp em um Surface Laptop Ultra com 128 GB. Ambos são números do fabricante. Nenhum dos dois foi reproduzido por alguém fora da NVIDIA.

• Medição — nenhum dos dois tem um preço de hospedagem nosso ou de qualquer plataforma que possamos indicar. O custo é o seu hardware de qualquer forma, e é exatamente por isso que a contagem de parâmetros ativos importa mais do que numa comparação de hospedagem.

O que o painel podia e não podia medir

A Artificial Analysis tem uma entrada para o Nemotron 3.5 Bolt 74B-A9B e atribui-lhe 21 no Intelligence Index, quarto de 67 na sua classe de footprint, contra uma mediana de classe de 8. Os seus campos de velocidade e custo por tarefa indicam N/A, porque não há um endpoint hospedado para chamar. Essas duas lacunas são o estado honesto do modelo: o seu piso de inteligência está verificado independentemente e o seu teto de desempenho não está.

Não há entrada do Artificial Analysis para o Nemotron 3.5 Lightning no momento em que escrevo, o que deixa toda a comparação apoiada na própria ficha oficial da NVIDIA. O dado independente que existe — uma verificação do LLM Stats de aproximadamente 24,6 no Terminal-Bench 2.1, consistente com o 23,46 do fabricante — corrobora os números do fabricante em vez de contradizê-los. Isso é tranquilizador em relação à tabela, mas não substitui um segundo harness.

Como escolher de verdade

A intenção de projeto decide a maioria dos casos antes de os benchmarks decidirem. O Lightning é um executor por construção: a própria orientação da NVIDIA é deixar um modelo de fronteira planejar e o Lightning executar o loop, e suas melhores linhas na tabela são as de chamadas de ferramentas de alta frequência, e não as de agentes autônomos. O Bolt é um generalista por construção: a mesma tabela mostra que ele está muito à frente em autonomia de navegação e trabalho em terminal, que são as tarefas mais típicas de planejador que o Lightning nunca deveria ter assumido — e é o único dos dois que consegue ver.

A composição para a qual ambos os modelos foram criados é um planejador, um executor e um especialista local. Como nenhum dos checkpoints tem um preço de hospedagem, a divisão recai sobre o seu próprio hardware e um endpoint à frente dele faz o trabalho útil: uma regra de roteamento que envia loops curtos de chamadas de ferramentas para uma implantação Lightning, as requisições que envolvem visão e controle do navegador para o Bolt, e tudo o que precise de raciocínio de fronteira genuíno para um modelo hospedado — tudo atrás de uma única chave, com failover entre provedores upstream quando uma perna hospedada se degrada. A regra fica na configuração, em vez de em cada serviço, o que é a diferença entre uma camada de roteamento e uma reescrita.

A questão em aberto é uma única execução independente. Se um terceiro reproduzir as diferenças do Terminal-Bench e do BrowseComp no Bolt, o checkpoint de 24 GB é genuinamente o generalista mais forte e o argumento a favor do nível de 30B reduz-se a pura economia de throughput. Se não o fizer, a leitura honesta é que um 74B quantizado em 2 bits e um 30B em BF16 estão mais próximos do que a tabela de um fornecedor sugere — e que a linha de não-alucinação, aquela que o Lightning vence, merece mais peso do que a sua posição no fundo da ficha sugere.