Nemotron 3.5 Bolt E4B 4GB vs Nemotron 3.5 Bolt 74B-A9B 24GB: Mesmo nome, máquinas opostas

A NVIDIA lançou dois modelos chamados Bolt com oito dias de diferença. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB chegou em 23 de outubro de 2026: um modelo conversacional somente texto, com 8B totais, pós-treinado a partir do Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB — o modelo a que a maioria das pessoas se refere quando diz Nemotron 3.5 Bolt — chegou em 15 de outubro: um agente multimodal com 74B totais e 9B ativos, comprimido para dois bits por peso de especialista.

Eles compartilham um selo, uma licença e uma janela de lançamento. Não compartilham uma arquitetura-mãe, uma modalidade, uma janela de contexto, uma suíte de benchmarks ou uma função. Interpretar “Bolt” como uma escada de tamanhos é o erro que esta comparação existe para evitar.

Um é um derivado do Gemma. O outro é um agente comprimido de 120B.

A linhagem explica quase todo o resto.

O E4B nasceu como Gemma-4-E4B-it, o modelo pequeno da Google ajustado para instruções, e a NVIDIA o pós-treinou com aprendizagem por reforço a partir de recompensas verificáveis e feedback humano por meio do NeMo-RL e do NeMo-Gym. A arquitetura é da Gemma: 8B parâmetros totais com 4B efetivos, um caminho de entrada e saída apenas de texto e uma janela de contexto de 64K. A contribuição da NVIDIA é o comportamento, não a espinha dorsal.

O 74B partiu do Nemotron 3.5 Super VL 120B-A12B, o próprio modelo multimodal pai da NVIDIA. A NVIDIA executou uma busca de arquitetura guiada por roteador chamada Star Elastic dentro de um orçamento de memória de 24GB e produziu um híbrido de 74 bilhões de parâmetros com 9 bilhões de parâmetros ativos por token, combinando camadas Mamba-2 e Transformer em um design LatentMoE, com um encoder de visão C-RADIO v4-H. Ele aceita texto, imagens e vídeo, e lida com 256K tokens de contexto.

Em termos simples: o E4B é um modelo de conversa que a NVIDIA ajustou. O 74B é um modelo de agente que a NVIDIA comprimiu. O nome "Bolt" descreve o objetivo de implantação — inteligência por gigabyte — não uma arquitetura compartilhada.

As especificações, lado a lado

• Parâmetros totais e ativos — 8B no total, com 4B efetivos para o E4B; 74B no total, com 9B ativos para o 74B.

Arquitetura — Gemma-4-E4B para o modelo pequeno; Mamba-2 mais Transformer híbrido LatentMoE para o modelo grande, com compressão Star Elastic do pai Super VL.

• Modalidade — texto como entrada, texto como saída para o E4B; texto, imagens e vídeo como entrada, texto como saída para o 74B.

• Janela de contexto — 64K tokens de entrada e 64K de saída para o E4B; até 256K tokens para o 74B.

• Precisão — Q4_K_M para o GGUF fornecido do E4B; IQ2 a aproximadamente 2,0625 bits por peso de especialista para o 74B, com NVFP4 em algumas camadas Mamba e embeddings Q8_0.

• Pesos publicados — 6,18 GB Q4_K_M e 15,88 GB BF16 para o E4B; 23,75 GB de pesos GGUF mais projetor de visão, 24,12 GB de safetensors prontos para vLLM, e 149,8 GB em BF16 para o 74B.

• Licença — OpenMDW-1.1 para ambos, com o componente Gemma 4 sob Apache 2.0 na pilha do E4B.

• Data de lançamento — 23 de outubro de 2026 para o E4B; 15 de outubro de 2026 para o 74B.

• Runtime — llama.cpp para o E4B, com o cartão marcando a receita como "pendente", apesar de fornecer comandos de início rápido; vLLM para o 74B, com uma receita de referência que fixa um contêiner nightly por hash de commit.

Uma armadilha de metadados merece ser sinalizada antes que cause um erro de compra. O widget de arquivos do Hugging Face no repositório de 74B exibe "22B params", enquanto o model card especifica 74B no total e 9B ativos. O card está certo: 22B é um campo obsoleto da barra lateral, não uma terceira variante, e quem dimensionar o hardware com base no widget em vez do card errará gravemente na direção oposta.

As tabelas de benchmark não compartilham uma única linha.

Esta é a coisa mais importante a entender antes de comparar as duas, e é justamente o que a maior parte da cobertura ignora.

A NVIDIA avaliou o 74B no GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp e WebArena. Ela avaliou o E4B no MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth e RelyToolBench.

Não há sobreposição. Nem uma única linha aparece em ambas as tabelas. Os dois conjuntos usam até versões diferentes do benchmark agêntico — Tau2 para o E4B, Tau3 Banking para o 74B —, então o par que parece mais próximo também não é comparável.

Isso significa que qualquer alegação da forma “o 74B é X pontos melhor que o E4B” é fabricada. A NVIDIA não publicou um harness comum, e nenhum terceiro executou um. O que as tabelas de fato sustentam é uma afirmação sobre a intenção de design:

• O 74B foi avaliado em tarefas que se parecem com trabalho — uso de terminal, navegação, programação científica, perguntas de nível de pós-graduação, raciocínio de contexto longo. Seus resultados publicados mais fortes são BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43 e AA-LCR 64.06.

• O E4B foi medido em tarefas que se assemelham a conversas — retenção de persona, hierarquia de instruções, saber quando chamar uma ferramenta, fundamentação na saída da ferramenta. Suas linhas mais fortes são IHEval 84.79, RoleBench 67.05, RelyToolBench 63.16 e When2Call 63.36.

Ambos os conjuntos são informados pelo fornecedor e não foram reproduzidos. A ficha do 74B traz um detalhe extra que vale a pena destacar: a NVIDIA descreve o modelo como o melhor modelo aberto de sua classe no PinchBench, mas sua própria tabela mostra o Qwen3.6-35B-A3B com 88,07 contra 87,82 do Bolt. É uma diferença de 0,25 ponto e uma afirmação que não se sustenta totalmente diante da própria nota de rodapé.

Alegam velocidade, com o hardware anexado

A taxa de transferência é o único ponto em que ambas as placas publicam números, e ainda assim não é possível alinhá-los.

• E4B em uma RTX 5070 12GB — 106,2 a 133,4 tokens por segundo, 548 a 1.238 ms até o primeiro token, 3,5 a 4,3 GB de VRAM, medido com llama.cpp e CUDA em batch 1.

• E4B em um Jetson Orin Nano 8GB — de 13,0 a 15,5 tokens por segundo e de 5,8 a 6,3 segundos até o primeiro token. O mesmo modelo, no hardware ao qual a proposta dos "4GB" realmente se refere.

• 74B em uma RTX Spark — 83,99 tokens por segundo no AIPerf SPEED-Bench-Coding, com o drafter LiLiCorr acoplado e sete tokens especulativos por passo.

A cifra de 74B pressupõe um checkpoint de drafter separado de 1,13B, um benchmark específico e hardware diferente de qualquer uma das execuções do E4B. A cifra do E4B pressupõe nenhum drafter. Comparar 133 com 84 e concluir que o modelo pequeno é mais rápido é tecnicamente verdadeiro e praticamente sem sentido: um é um modelo de quatro bilhões de parâmetros efetivos em uma GPU de desktop, o outro é um modelo de nove bilhões de parâmetros ativos em uma máquina diferente com um decodificador especulativo acoplado.

O que os números de fato estabelecem é o perfil do trade-off. O E4B é feito para tempo até o primeiro token; o 74B é feito para trabalho agêntico sustentado, no qual 84 tokens por segundo é suficiente. A linha do Orin Nano é o alerta: um modelo de 4GB em hardware embarcado não é automaticamente um conversador em tempo real.

Memória: 4GB e 24GB são envelopes, não ficheiros

Ambos os nomes usam um destino de memória, e nenhum dos números é o download.

• E4B — um GGUF Q4_K_M de 6,18 GB. A NVIDIA mede de 3,1 a 4,3 GB de VRAM em suas próprias execuções com batch 1 em hardware RTX. A placa não publica um arquivo de 4 GB.

• 74B — 22,02 GB de pesos GGUF mais um projetor de visão separado de 1,73 GB, totalizando 23,75 GB, ou 24,12 GB na versão safetensors pronta para vLLM. A quantização de especialistas em 2,0625 bits é o que viabiliza o limite de 24 GB.

• Builds BF16 — 15,88 GB para o E4B, 149,8 GB em 63 shards para o 74B. As variantes de precisão total são para pós-treinamento, não para implantação, e o card do 74B diz isso explicitamente.

A diferença de armazenamento é de cerca de quatro para um na precisão de implantação, e de cerca de nove para um na precisão total. A diferença de VRAM é menor que a diferença de parâmetros porque o 74B está pagando por sua compressão em bits, não em tamanho.

Modalidade e contexto decidem mais do que a contagem de parâmetros

Uma janela de texto de 64K e uma janela multimodal de 256K não são o mesmo produto com limites diferentes.

O 74B consegue olhar para uma imagem ou um vídeo e agir com base neles. Sua ficha técnica especifica entrada RGB JPEG ou PNG, vídeo MP4 de até dois minutos e orientação de um quadro por segundo em 1080p ou dois quadros por segundo em 720p. Ele consegue ler uma captura de tela, um gráfico, um formulário ou um feed de câmera e então chamar ferramentas com base no que viu. Essa é a capacidade que o torna um agente para navegação e trabalho de desktop.

O E4B não consegue ver. Ele recebe texto e retorna texto, e sua janela de 64K é explicitamente mais fraca que a de seus pares em recuperação: RULER 86,99 contra 95,15 do Qwen3.5 4B, LongBench v2 50,50 contra 59,93. Se sua aplicação precisa manter um documento longo ou uma captura de tela em exibição, o E4B é o modelo errado, independentemente de quão bons sejam seus escores de persona.

Para quem cada um é destinado

O E4B é para a camada de interface. Personagens interativos, assistentes de voz, agentes em dispositivos embarcados, robôs que precisam selecionar um script e falar, e qualquer aplicação em que o modelo tenha de responder em algumas centenas de milissegundos em hardware que custa menos que uma estação de trabalho. As demonstrações da NVIDIA tornam a intenção concreta: um robô Reachy Mini em um Jetson Orin Nano usando o E4B para escolher scripts de animação enquanto um modelo de visão separado cuida da percepção, e um NPC ferreiro que verifica o pagamento, consulta uma receita, reúne ingredientes e entrega um item.

O 74B destina-se à camada de trabalho. Agentes pessoais sempre ativos que navegam, programam, analisam dados, monitorizam tarefas em segundo plano e chamam APIs. É executado em RTX Spark, DGX Spark, estações de trabalho RTX PRO e placas GeForce RTX com memória suficiente, e foi concebido para coexistir com outras aplicações dentro de um orçamento de 24GB. O seu perfil de benchmarks — BrowseComp, Terminal-Bench, GPQA, AA-LCR — é o perfil de um modelo que conclui tarefas, não de um que mantém uma conversa.

Nenhum dos dois substitui o outro. Um estúdio de jogos que quer NPCs verossímeis não precisa de um agente multimodal de 74B; uma plataforma de agentes que precisa ler uma página web e executar um comando de terminal não pode usar um modelo conversacional de 4B apenas de texto.

O que uma família de dois modelos implica para a implantação

A consequência arquitetural interessante é que a NVIDIA lançou um portefólio em vez de uma escada. O E4B trata da camada de reflexo, o 74B trata da camada de trabalho local e o Super VL 120B-A12B trata dos casos multimodais mais exigentes. São três orçamentos de memória diferentes e três tarefas diferentes, tudo sob uma única família de licenças.

A maioria dos aplicativos ainda vai precisar de uma quarta camada que não dá para baixar: um modelo de fronteira para as requisições que excedem o hardware local, ou um segundo fornecedor para a modalidade que o modelo local não oferece. Encaminhar essas requisições por uma única API — mais de 200 modelos, 0% de markup sobre o preço de tabela do provedor, failover automático quando um provedor apresenta degradação — permite que o Bolt local continue sendo o caminho rápido e que o modelo hospedado continue sendo a exceção. A alternativa é uma integração, uma chave e uma fatura separadas para cada modelo acima da camada local.

O que resolveria a questão da família

Uma única execução. Faça os dois Bolts passarem pelo mesmo harness nas mesmas tarefas — um conjunto conversacional, um conjunto agêntico e um conjunto multimodal — e publique as linhas. A NVIDIA tem os checkpoints, a pilha de avaliação e o incentivo; mesmo assim, optou por publicar duas tabelas separadas.

Até que isso exista, a leitura defensável é esta: o 74B é o modelo mais capaz por projeto e por evidência, nas tarefas que a NVIDIA escolheu medir. O E4B é o modelo mais apropriado para uma grande classe de interfaces em que um agente de 24 GB é absurdo e um modelo conversacional de 4 GB é exatamente o certo. O nome na caixa é o mesmo. A máquina lá dentro não é.