Nemotron 3.5 Bolt 74B vs Nemotron 3 Ultra: 1,5 pontos de índice, sete vezes os parâmetros

O número mais surpreendente da família N​VIDIA N​emotron 3.5 não é o tamanho do seu carro-chefe. É que N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB, um checkpoint de 74 bilhões de parâmetros comprimido em 24 gigabytes a dois bits por peso, fica dentro de 1,5 pontos de N​emotron 3 Ultra, o modelo de 550 bilhões de parâmetros do qual o resto da família foi destilado, no Intelligence Index executado de forma independente pela Artificial Analysis — 21,4 contra 22,9. Sete vezes os parâmetros, seis vezes a computação ativa por token, e uma diferença que se perderia nas barras de erro de um benchmark. Os pesos do Bolt apareceram no Hugging Face em 7 de outubro de 2026, com o anúncio da N​VIDIA vindo em seguida, em 15 de outubro; o Ultra foi lançado em 4 de junho de 2026.

Os dois modelos não são intercambiáveis, e os pontos em que diferem são mais instrutivos do que a pontuação principal. O que a compressão preservou e o que descartou estão ambos visíveis nos números publicados, e não são as mesmas linhas.

O que cada um é

Ultra é o carro-chefe da geração anterior e o professor no centro do pipeline de destilação da N​VIDIA. É um híbrido Mamba-2 com 550B no total e 55B ativos, com Multi-Token Prediction, lançado sob a OpenMDW-1.1 junto com seus dados de treinamento e receitas, construído para trabalho agêntico de longa duração, com até um milhão de tokens de contexto e um limite de saída de 65.000 tokens por requisição. A própria alegação da N​VIDIA a respeito dele era de ser o modelo de pesos abertos dos EUA com maior inteligência em sua janela de lançamento, e o registro independente em grande parte sustenta isso: o painel lhe atribui 22,9 em sua configuração de raciocínio, com 156 tokens de saída por segundo medidos, 1,29 segundo até o primeiro token e um tempo de resposta ponta a ponta mediano de 19 segundos.

O Bolt é o nível de borda da nova geração, e não é um Ultra destilado no sentido direto. Seu modelo pai é o N​emotron 3.5 Super VL 120B-A12B, o modelo multimodal de 120 bilhões de parâmetros que a N​VIDIA lançou junto com ele. A compressão foi feita pela Star Elastic, a busca de arquitetura guiada por roteador da N​VIDIA, que otimizou para a menor perda de destilação de conhecimento que satisfizesse um limite rígido de pegada de memória abaixo de 24 GB com batch size 1 e contexto de 128K — reduzindo o top-K de especialistas de 22 para 9 e quantizando os pesos dos especialistas para IQ2-XXS a 2,0625 bits por elemento, com destilação ciente de quantização para recuperar a precisão. Ele carrega um codificador de visão C-RADIO v4-H porque seu modelo pai era multimodal.

As linhas independentes, em ambos os lados

Tudo abaixo é da Artificial Analysis, a menos que indicado de outra forma, e é isso que torna a comparação utilizável: ambos os modelos foram executados pelo mesmo avaliador, sob o mesmo harness.

• Índice de Inteligência — Bolt 21,4; Ultra 22,9. Medido de forma independente para ambos.

• GDPval-AA (normalizado) — Bolt 0,240; Ultra 0,257. Uma diferença de 1,7 ponto em um benchmark construído a partir de entregáveis ocupacionais reais.

• SciCode — Bolt 0.397; Ultra 0.403. Efetivamente no mesmo nível.

• Humanity's Last Exam, sem ferramentas — Bolt 24,7 por cento; Ultra 28,4 por cento. A diferença de quatro pontos aqui é a maior desta lista em termos relativos.

• AA-LCR de recuperação de contexto longo — Bolt 69,7 por cento; Ultra 79,3 por cento. Dez pontos, e a evidência mais clara do que custa a compressão de 2 bits.

• AA-Omniscience — Bolt com 17,1% de precisão e 56,3% de não alucinação; Ultra com 22,6% de precisão e 70,3% de não alucinação. O carro-chefe é ao mesmo tempo mais conhecedor e melhor calibrado, o que é o resultado menos surpreendente da página.

• Terminal-Bench 4.0 (conjunto mais difícil) — ambos pontuam zero. Nenhum modelo está resolvendo esse nível, inclusive o principal.

• Janela de contexto — Bolt: até 256.000 tokens de acordo com o cartão do modelo, e 262.144 no registro do painel. Ultra: até 1.000.000 por NVIDIA, com saída máxima de 65.000 tokens.

• Entradas — Bolt: texto, imagens e vídeo na entrada, texto na saída. Ultra: texto na entrada, texto na saída. Nada nos materiais de lançamento do carro-chefe afirma uma torre de visão.

• Preço — Bolt: nenhum. Não há tarifa medida publicada para o checkpoint de 24 GB, e o painel não lista nenhum valor de entrada ou saída para ele. Ultra: US$ 0,60 por milhão de tokens de entrada e US$ 2,50 por milhão de saída, com entrada em cache a US$ 0,16, e um gasto medido de US$ 0,60 por tarefa do Intelligence Index.

• Velocidade — Bolt: nenhuma medição independente. Ultra: 156,1 tokens de saída por segundo, 1,29 segundo até o primeiro token, mediana de 14,6 segundos de tempo de raciocínio por resposta.

• Pegada — Bolt: 24 GB em IQ2, pode ser implantado em uma única unidade A100, H100 ou Blackwell. Ultra: uma implantação multiacelerador; a própria receita da NVIDIA para os checkpoints do professor nesta família indica quatro B200s ou oito H100s como mínimo, e o Ultra é o maior membro.

Por que a lacuna do índice é menor que a lacuna de tamanho, e o que isso significa

Há duas explicações honestas e ambas são provavelmente verdadeiras em parte.

A primeira é que o Intelligence Index é um composto que recompensa mais o procedimento do que a recordação. O Bolt perdeu seus fatos armazenados para a quantização de 2 bits — você pode ver isso nas linhas de precisão — mas manteve o suficiente do comportamento de cadeia de pensamento, chamada de ferramentas e saída estruturada para pontuar nas tarefas compostas. Observe que a vantagem do Ultra se concentra exatamente onde a memória importa: recuperação de contexto longo, precisão de onisciência, taxa de alucinação, perguntas difíceis de ciências que exigem um fato em vez de um método.

A segunda é que a busca por arquitetura sobre um modelo pai forte é um uso melhor de um orçamento fixo do que treinar modelos pequenos do zero, o que é o argumento explícito da NVIDIA na documentação do Bolt. Pegar um professor multimodal de 120B e buscar o aluno mais largo que caiba em 24GB é um exercício diferente de pré-treinar um modelo de 30B, e o checkpoint resultante de 74B/9B fica onde um 74B excepcionalmente eficiente ficaria.

O que isso não significa é que o Bolt substitui o Ultra. Um modelo que admite incerteza com mais frequência (56,3 versus 70,3 por cento de não alucinação, na direção errada) e recupera de contexto longo de forma menos confiável é um assistente pior para as perguntas que as pessoas realmente fazem. Ele é um assistente melhor para tarefas que são majoritariamente procedimento: chamar ferramentas, preencher formulários, editar arquivos, ler uma captura de tela e clicar na coisa certa.

As duas coisas que o Ultra não pode fazer

As vantagens da Bolt são limitadas, e ambas são estruturais, não numéricas.

Cabe. Um checkpoint de 24 GB roda em hardware que a própria pessoa possui, sem rede, sem medição por token e sem negociação de capacidade. A inteligência do Ultra só é acessível por meio de uma API, a US$ 0,60 de entrada e US$ 2,50 de saída por milhão de tokens, e cerca de US$ 0,60 de gasto por tarefa de indexação. Esse preço é genuinamente baixo para um modelo de sua classe, e é por isso que a rota hospedada é uma opção real, e não uma concessão — mas ainda é uma rota que exige conectividade e confiança no uptime de outra pessoa.

Ele vê. O codificador de visão C-RADIO v4-H do Bolt fornece a ele entrada de imagem e vídeo, e a ficha do modelo da N​VIDIA indica 50,86 no WebArena vision e 66,75 no BrowseComp. O Ultra é um modelo de texto. Se o trabalho do agente envolver capturas de tela, PDFs, leitura de dashboards ou automação de navegador com estado visual, o carro-chefe da geração mais antiga não pode ser usado como substituto a preço algum.

Como escolher

Escolha o Ultra se a carga de trabalho for intensiva em raciocínio e envolver apenas texto: análise em várias etapas, conjuntos extensos de documentos, programação em grandes repositórios ou qualquer coisa em que errar saia caro. Suas pontuações independentes superam as do Bolt em quase todos os quesitos, o preço está entre os mais baixos da categoria de alta inteligência, e sua vazão é medida, não presumida.

Escolha o Bolt se a carga de trabalho rodar em hardware que você controla, precisar enxergar ou tiver de continuar funcionando quando a rede não estiver disponível. A diferença de 1,5 ponto no índice é real e estreita o bastante para que a decisão normalmente seja tomada com base na implantação, e não na qualidade — e o fato de a NVIDIA ter lançado um arquivo de 24 GB que fica a menos de dois pontos de seu próprio carro-chefe de 550B é o fato mais digno de nota dos dois lançamentos.

Há um caminho intermediário que vale a pena nomear, porque é assim que a N​VIDIA posiciona a família, e não como um comprador de modelo único faria: um pequeno executor local fazendo chamadas de ferramentas e leitura de tela, com um modelo hospedado maior cuidando do planejamento e do raciocínio difícil. Essa arquitetura precisa de uma forma confiável de alcançar a metade hospedada em mais de um provedor, que é para isso que serve o failover do OrcaRouter — nova tentativa automática entre provedores por trás de um único endpoint, em uma chave que também alcança mais de 200 modelos pelo preço de tabela do provedor, com 0% de margem adicionada. Não hospedamos nenhum modelo da N​VIDIA; a família N​emotron não está no nosso catálogo, e nada aqui é uma alegação de servi-lo. O ponto é apenas que um projeto de agente em dois níveis precisa que o segundo nível seja roteável, e um único endpoint de fornecedor codificado de forma fixa é a maneira habitual de esse projeto falhar.

O que mudaria esta página

Duas medições. A primeira é uma execução independente de throughput e latência no checkpoint de 24GB, que ou confirmaria ou destruiria o argumento para usá-lo como executor local em velocidade interativa; hoje o único número disponível é o da própria NVIDIA, de 83,99 tokens por segundo no AIPerf SPEED-Bench-Coding, medido em uma máquina de classe laptop e não comparável ao rig do painel. A segunda é uma re-execução independente dos benchmarks agênticos nos pesos de 2 bits em uma quantização que um terceiro controla — a tabela do fornecedor mostra o Bolt superando o Ultra no Terminal-Bench 2.1 em quase 27 pontos, e essa alegação está fazendo um enorme trabalho sem confirmação externa.

Nada disso é razão para evitar o modelo, apenas uma razão para conhecer o histórico: os incidentes de IA documentados e as falhas de agentes por trás de modelos desta classe estão reunidos no OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, severidade, grau de confiança e sinalizador de disputa.