Nemotron 3.5 Bolt foi lançado: o que o checkpoint de 24 GB e 2 bits da NVIDIA realmente contém

O repositório de N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB apareceu no Hugging Face em 7 de outubro de 2026 e ficou lá, em silêncio, por oito dias. Em 15 de outubro, a N​VIDIA o anunciou — um post no blog, um comunicado à imprensa e uma página de pesquisa marcada com essa data — o que significa que a parte interessante desta história não é o lançamento. É a lacuna. Durante oito dias, a única coisa que alguém podia saber sobre o N​emotron 3.5 Bolt era o que um cartão de modelo e um conjunto de safetensors diziam, e todo o resto era inferência. Essa lacuna agora se fechou, e vale a pena ser preciso sobre o que o fechamento dela de fato resolveu, porque boa parte do que as pessoas estão repetindo sobre este modelo veio do repositório, e não do anúncio, e os dois não são o mesmo documento.

O que é certo agora, em um parágrafo, é isto. O Nemotron 3.5 Bolt 74B-A9B 24GB é um modelo de visão-linguagem de mistura de especialistas com 74 bilhões de parâmetros, com 9 bilhões de parâmetros ativos por token, lançado em 15 de outubro de 2026 sob a licença OpenMDW-1.1, armazenando os pesos de seus especialistas a 2,0625 bits por elemento, de modo que o conjunto todo caiba em 24 GB. Ele foi projetado para executar trabalho agêntico local — chamadas de ferramentas, navegação, uso de terminal — em hardware RTX e DGX Spark. Ele está no Ollama como uma tag de 25 GB com uma janela de contexto de 256K. Ele não está em nenhuma API hospedada e não tem preço. Uma parte dessa frase é medida de forma independente, e o restante é a própria palavra do fornecedor.

Duas datas, e qual delas citar

Há uma diferença real entre as duas datas e ela decide como você deve ler o restante deste artigo.

O repositório Hugging Face foi criado em 7 de outubro de 2026 às 17:50 UTC. O cartão de modelo dentro dele contém um campo Data de Lançamento que diz Hugging Face 10/15/2026. A própria página de pesquisa da NVIDIA sobre o checkpoint está marcada como Publicado: 15 de outubro de 2026. A publicação no blog do fornecedor que anuncia o nível Bolt é datada de 15 de outubro de 2026 e diz, com todas as letras, que Super VL e Bolt 74B-A9B "já estão disponíveis".

Então, a leitura honesta é que 15 de outubro é a data de lançamento e 7 de outubro é quando a pasta apareceu. Qualquer pessoa que cite 7 de outubro como o lançamento está citando um carimbo de data/hora de arquivo; qualquer pessoa que cite 15 de outubro está citando o fornecedor. A diferença de oito dias, porém, importa por um motivo diferente das datas. Isso significa que, por mais de uma semana, o modelo existiu em um estado em que o repositório era a única superfície — nenhum anúncio, nenhuma página de preços, nenhuma entrada no ranking, ninguém da NVIDIA dizendo para que servia. Toda descrição inicial do Bolt escrita nessa janela, incluindo as que agora circulam, foi construída a partir do cartão. O cartão acabou se revelando preciso. Vale a pena dizer isso de forma clara, porque o desfecho habitual dessas situações é que não é o caso.

O que apenas o repositório prova

Tudo nesta seção podia ser lido na ficha do modelo e nos arquivos de configuração antes de a N​VIDIA dizer uma palavra, e tudo isso ainda é verdade.

• Parâmetros — 74 bilhões no total, 9 bilhões ativos por token. Mistura esparsa de especialistas, não um modelo denso.

• Arquitetura — um híbrido de Mamba-2 e Transformer com um backbone LatentMoE e um codificador de visão C-RADIO v4-H. A configuração registra a classe como NemotronH_Omni_Reasoning_V3.

• Precisão armazenada — IQ2_XXS a 2,0625 bits por elemento nas camadas FC1 e FC2 dos especialistas roteados e compartilhados, que é onde está a maior parte dos pesos. As camadas lineares Mamba ficam em NVFP4, e os embeddings, a cabeça de saída, a atenção e os pesos do LatentMoE em Q8_0.

• Contexto — até 256K tokens, ou 262.144 nas receitas de implantação.

• Entradas e saídas — texto, imagens e vídeo como entrada; texto como saída.

• Licença — OpenMDW-1.1, e o cartão declara claramente: "pronta para uso comercial ou não comercial."

• Bases e proveniência — o card declara seu modelo base como o checkpoint BF16 de mesmo nome e sua relação com ele como quantizado, e as tags do dataset apontam para as coleções de pré-treinamento e pós-treinamento do Nemotron da NVIDIA.

• Datas do modelo — dezembro de 2025 a maio de 2026, com data de corte dos dados pós-treinamento em maio de 2026. Leia isso com atenção se a atualidade dos dados for importante para você: o modelo é um lançamento de 2026 construído com dados que terminam quatro meses e meio antes de ser lançado.

• Runtimes — vLLM em NVIDIA Ampere, Hopper e Blackwell, e llama.cpp para RTX Spark e DGX Spark. A listagem da Ollama é mais direta quanto aos limites: a implantação com CUDA está documentada, e Apple Silicon e Metal não são atualmente suportados.

O que o anúncio acrescentou

O material do fornecedor acrescenta três coisas que o repositório não poderia ter lhe dito.

Primeiro, o enquadramento da família. O Bolt é posicionado como a camada de borda da família Nemotron, abaixo do Nemotron 3.5 Super VL de 120B para agentes de servidor sempre ativos e acima de nada em particular — a própria frase da NVIDIA os classifica: Super VL e Bolt "cobrem toda a gama de implantações de agentes, de grandes servidores empresariais a dispositivos de borda e hardware local." O Nemotron 3.5 Bolt E4B 4GB, um modelo de 4 bilhões de parâmetros para agentes conversacionais e físicos, chega em 23 de outubro.

Segundo, a história da compressão, que é a afirmação de engenharia genuinamente nova aqui. O Bolt não é um modelo que foi treinado pequeno e depois quantizado. É o Nemotron 3.5 Super VL — 120B no total, 12B ativos — passado pelo Star Elastic, a busca de arquitetura guiada por roteador da NVIDIA, sob uma restrição rígida de caber abaixo de 24GB de memória com tamanho de lote um e 128K de contexto. O top-K de especialistas caiu de 22 no modelo pai para 9 no Bolt, as larguras intermediárias do MoE foram pesquisadas por camada, e então a rede comprimida foi quantizada e passou por destilação ciente de quantização para recuperar a acurácia. A conclusão declarada da NVIDIA é a parte interessante e é uma posição real, não uma fanfarronice: para um orçamento de memória fixo, comprimir um modelo grande supera treinar um pequeno do zero. Essa é uma afirmação que você pode testar, e ninguém fora da NVIDIA testou.

Terceiro, duas colocações em rankings declaradas pelo fornecedor: #1 modelo aberto em sua classe no PinchBench, e #2 modelo aberto no BrowseComp. Ambas são a caracterização da NVIDIA de seu próprio modelo em relação a uma classe que ela definiu.

O que o anúncio não acrescenta é um endpoint servido. Não há API hospedada, nem preço por token, nem forma de chamar o Nemotron 3.5 Bolt sem adquirir o hardware em que ele roda. A Artificial Analysis, que avaliou o modelo, lista os campos de velocidade e custo como indisponíveis exatamente por esse motivo: nenhuma API disponível publicamente para medir.

A parte que ninguém fora da NVIDIA executou

É aqui que o artigo precisa desacelerar, porque a lacuna entre o que foi medido e o que foi afirmado é excepcionalmente ampla para um modelo deste tamanho.

Do lado medido, há um número, e é um bom número: o Artificial Analysis coloca o Nemotron 3.5 Bolt 74B-A9B com 21 em seu Intelligence Index, o que o posiciona em quarto lugar entre 67 modelos de sua classe de comparação. Trata-se de uma medição independente do checkpoint real de 2 bits, e não de uma build de referência BF16, e é o dado mais útil disponível sobre este modelo hoje.

Do lado do que é afirmado, está todo o resto. A ficha do modelo traz uma tabela de treze benchmarks com quatro colunas — Qwen3.6-35B-A3B em BF16, Gemma 4 26B-A4B em BF16, N​emotron 3.5 Lightning 30B-A3B em BF16 e Bolt em IQ2 — e cada linha dela foi produzida pela N​VIDIA, incluindo as três colunas de linha de base, que a N​VIDIA selecionou porque cabem em 24 GB com quantização de 4 bits. Bolt é o vencedor em negrito em dez linhas e não é o vencedor em três: precisão do AA-Omniscience, em que Gemma 4 26B-A4B pontua 22,17 contra 16,90 do Bolt; não alucinação do AA-Omniscience, em que N​emotron 3.5 Lightning 30B-A3B pontua 68,81 contra 61,27 do Bolt; e PinchBench, em que Qwen3.6-35B-A3B pontua 88,07 contra 87,82 do Bolt. Publicar as três linhas em que você perde é um ponto a favor do fornecedor e não muda o que a tabela é: não reproduzida.

Os números de velocidade merecem um parágrafo próprio porque contrariam o marketing. A própria tabela de medição da NVIDIA, obtida com llama.cpp no Windows 11 ARM64 em um Surface Laptop Ultra com 128GB, mostra o Bolt a 83,99 tokens por segundo no AIPerf SPEED-Bench-Coding — atrás do Qwen3.6-35B-A3B, com 96,63, e do Gemma 4 26B-A4B, com 100,56. Na mesma página, a duração de replay ponta a ponta em trajetórias realistas de agentes é de 600,80 segundos para o Bolt, contra 453,97 para o Qwen3.6 e 480,68 para o Gemma. A proposta é inteligência por gigabyte, não velocidade, e a própria tabela do fornecedor é consistente com essa proposta, e não com a alegação de ser o mais rápido.

Então, o formato das evidências é: uma pontuação composta independente que é respeitável, uma tabela de benchmark de fornecedor que ninguém reproduziu, uma tabela de velocidade de fornecedor em um laptop que ninguém fora da NVIDIA executou, e zero medições independentes de latência. Trate qualquer artigo que reporte o valor do PinchBench do Bolt sem dizer quem o produziu como não confiável, incluindo qualquer artigo que concorde com este.

O que chegou junto com isso

O lançamento de um modelo raramente é apenas os pesos, e o elenco de apoio do Bolt é maior do que o habitual para algo sem API.

O rascunhador especulativo LiLiCorr é fornecido com ele — 1,13 bilhão de parâmetros, excluindo os embeddings compartilhados e a cabeça de saída, treinado em conjunto com o modelo-alvo, e a NVIDIA relata comprimentos médios de aceitação de 4,68 sob decodificação greedy e 4,25 sob amostragem probabilística com sete tokens rascunhados em concorrência 64 no vLLM. O rascunhador é um checkpoint separado que pode ser baixado, não uma flag de tempo de execução, e é o mecanismo por trás do número de 84 TPS citado para a RTX Spark.

O suporte a frameworks chegou rápido. O Ollama lista nemotron-3.5-bolt em três tags — uma padrão, uma tag 74B-A9B e uma tag IQ2 — cada uma com 25GB, um contexto de 256K e entrada de texto e imagem, com lançadores de uma linha para C​laude Code, OpenCode, Hermes Agent e OpenClaw. Além disso, há uma build GGUF da N​VIDIA, uma cadeia de quantizações da comunidade em 4 bits e 8 bits, e conversões MLX que surgiram dentro de um dia após o anúncio. Para um checkpoint que roda em um único dispositivo de 24GB, o fato de esse ecossistema ter chegado em quarenta e oito horas é o verdadeiro sinal de que este é um artefato utilizável, e não um demonstrador.

O alerta prático para quem pretende usá-lo: o valor de 24 GB é um piso para os pesos, não um teto para a carga de trabalho. Imagens, quadros de vídeo, histórico de conversa e resultados de ferramentas compartilham todos o orçamento de contexto, e a própria nota do Ollama diz que o contexto utilizável depende da memória disponível. Um download de 25 GB que cabe confortavelmente não é o mesmo que uma sessão de 256K tokens que cabe confortavelmente.

Onde isso te deixa, e onde não.

Se a sua carga de trabalho for local e agêntica — uso de terminal, navegação, chamada de ferramentas, depuração de código num dispositivo que lhe pertence — o Nemotron 3.5 Bolt 74B-A9B 24GB é agora uma escolha defensável, com uma pontuação independente e um conjunto de pesos que pode inspecionar. O argumento de compressão por trás dele é genuinamente interessante, a licença permite uso comercial, e as ferramentas apareceram no prazo de um dia.

Se a sua carga de trabalho precisar ser chamada a partir de código executado em algum lugar que você não controla, este modelo não é uma opção hoje, e a resposta honesta para "como faço para usá-lo" é que você mesmo o executa em hardware NVIDIA ou espera. Nós verificamos nosso próprio catálogo em vez de presumir, e não há nenhum modelo NVIDIA nele — então não há nada aqui para nós rotearmos, e dizer o contrário seria uma mentira. O que o OrcaRouter oferece é a outra metade de uma implantação mista: os modelos que você chamaria quando uma requisição é difícil demais, longa demais ou desconhecida demais para um checkpoint local de 2 bits, por trás de uma única chave, em mais de 200 modelos, pelo preço de tabela do provedor, sem markup adicionado, com failover automático quando um provedor oscila. Emparelhar um Bolt local com uma API roteada é uma arquitetura sensata. Fingir que o Bolt está do lado roteado não é.

O que deve ser observado não é a próxima tabela de benchmarks. É se alguém fora da NVIDIA publica uma execução de latência no checkpoint de 24 GB em hardware que um leitor realmente possui, e se um endpoint hospedado chega a aparecer. Até que uma dessas coisas aconteça, a especificação é uma promessa e uma única pontuação de índice é a única coisa que a sustenta.

Um resultado como este também é um lembrete de que erros de modelo já estão documentados: os incidentes de IA e as falhas de agentes por trás de modelos dessa classe são reunidos no OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, severidade, grau de confiança e indicador de disputa.