Hero title card: NVIDIA Nemotron 3.5 Lightning 30B A3B, o cavalo de batalha de agente aberto da Nvidia, explicado — com cartões de estatísticas mostrando 30B total, 3B ativo, contexto de 1M.
Guides & Insights

NVIDIA Nemotron 3.5 Lightning 30B A3B: O Cavalo de Batalha de Agentes Abertos da Nvidia, Explicado

Autor

jinhao.song

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

A Nvidia anunciou o Nemotron 3.5 Lightning em 11 de agosto de 2026 e o lançou com algo que a maioria dos lançamentos de modelos deixa de fora: um roteador. O NeMo Switchyard, uma biblioteca de código aberto que decide qual modelo deve lidar com a próxima chamada dentro de um loop de agente, chegou no mesmo dia em que um modelo de mistura de especialistas de 30 bilhões de parâmetros, com apenas 3 bilhões de parâmetros ativos — que é o ponto. Este explicador é sobre o checkpoint que a Nvidia lançou primeiro, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, a base pré-treinada bruta, em vez da referência ajustada para chat, e sobre o que a família como um todo diz sobre para onde o serviço de modelos abertos está caminhando.

Uma nota sobre as fontes antes dos números: todo benchmark, alegação de velocidade e dado de parceiro neste artigo é da própria Nvidia, e nada disso foi reproduzido de forma independente ainda — o modelo tem apenas horas de vida. Trate os números de desempenho como uma ficha do fornecedor: informativos e direcionais, ainda não um placar.

O que Nemotron 3.5 Lightning realmente é

Nemotron 3.5 Lightning é o membro mais novo e menor da família aberta Nemotron 3 da Nvidia. É um MoE de 30B parâmetros com apenas 3B ativos por token, construído sobre uma arquitetura híbrida de Mamba-2 e MoE com camadas de atenção seletivas e cabeças de previsão de múltiplos tokens (MTP) incorporadas durante um estágio dedicado de pré-treinamento. A Nvidia afirma que ele foi destilado do seu modelo frontier Nemotron 3 Ultra e treinado com mais de 20 trilhões de tokens, e suporta uma janela de contexto de até 1 milhão de tokens.

O objetivo do design é latência e custo em escala, não generalidade de fronteira. A Nvidia posiciona o Lightning como a "camada de execução" de agentes sempre ativos — as chamadas de alto volume e menor dificuldade que um agente faz constantemente: chamadas de ferramentas, revisão de código, triagem de alertas de segurança, perguntas de cobrança, delegação de subagentes. Esse é um trabalho em que você não quer um modelo de fronteira em cada etapa; você quer um modelo barato e rápido, que seja bom o suficiente. As afirmações de velocidade decorrem da arquitetura: até 4× mais rápido na geração do que modelos de tamanho semelhante e cerca de 30% mais rápido na conclusão de tarefas agênticas, segundo as medições da Nvidia. Dois modelos de rascunho, DSpark e DFlash, oferecem decodificação especulativa ajustada para cenários de concorrência de média a alta.

Os três checkpoints — e qual deles você quer

O lançamento é na verdade três downloads, e a cobertura que trata "Nemotron 3.5 Lightning" como um único modelo perde a distinção que mais importa para um desenvolvedor.

O assunto deste texto, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, é o checkpoint pré-treinado bruto — sem fine-tuning supervisionado, sem RL, sem destilação aplicada. É um modelo base no sentido estrito: ele não conversa de fábrica, e existe para ser o ponto de partida para pré-treinamento contínuo, SFT personalizado, RL ou destilação. Se você pretende construir seu próprio modelo sobre o pré-treinamento da Nvidia, este é o arquivo que você quer.

O lançamento irmão, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, são os pesos de referência que executaram todo o pipeline — pré-treinamento, continuação de MTP, SFT e RL. É um modelo de raciocínio e chat de propósito geral, mas a Nvidia ainda o posiciona como um ponto de partida para personalização, em vez de um artefato para serving em produção. Para fins de serving, o checkpoint NVFP4 (lançado em conjunto, compartilhando os kernels de quantização que a Nvidia usa no Nemotron 3 Ultra) é o que visa latência e throughput.

Orientação prática, em uma linha por checkpoint:

• Base-BF16 — pré-treinamento contínuo, pós-treinamento no domínio, destilação do zero. Você assume a partir daqui.

• BF16 reference — capaz de chat e raciocínio, mas destinado a servir de base para seu próprio SFT ou RL, não como um endpoint hospedado.

• NVFP4 — o checkpoint otimizado para serving em GPUs Nvidia.

A maioria dos leitores que procuram uma API de produção quer os modelos ajustados, não a base. A base importa mesmo assim porque a Nvidia a lançou sob uma licença aberta (OpenMDW-1.1) que cobre pesos, dados de treinamento e receitas — o pré-treinamento bruto é a parte que você não consegue de um fornecedor fechado, e é a parte que torna toda a família sua.

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, showing the Text Generation task, Transformers, Safetensors and the OpenMDW-1.1 license

O registro de benchmarks, rotulado honestamente.

Aqui está o que a Nvidia reporta para o checkpoint base em suas próprias avaliações: MMLU 78.59, MMLU-Pro (5-shot) 67.94, GSM8K 91.28, HumanEval 77.44, MBPP 78.59, ARC-Challenge 92.66, HellaSwag 85.55, WinoGrande 79.95 e uma pontuação RULER de contexto longo de 69.62 em 1M de tokens. A referência ajustada faz diferença onde você esperaria: MMLU-Pro 81.94, GPQA Diamond (sem ferramentas) 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58.

Os números de velocidade de destaque também são informados pelo fornecedor: até 4× mais rápido na saída e 30% mais rápido na conclusão de tarefas agênticas do que modelos de sua classe, além de um resultado PinchBench de 86% de precisão em uma execução de 10.000 tarefas, aproximadamente 30% mais rápido que o Qwen3.6-35B com precisão semelhante. A Nvidia também cita um Índice de Inteligência da Artificial Analysis de 24, empatado com o gpt-oss-120b — {{1}}mas observe a origem: isso é a Nvidia citando uma pontuação para um modelo que, até 11 de agosto, ainda não aparece no leaderboard público da Artificial Analysis.{{/1}} Laboratórios independentes não publicaram números do Lightning.

Para ter uma noção de onde o 24 se situa na família, os índices medidos pela AA para os outros modelos abertos da Nvidia são 25,4 tanto para o Nemotron 3 Ultra quanto para o Nemotron 3 Super, e 14,2 para o Nemotron 3 Nano. Lightning não é um modelo de fronteira, e a Nvidia não afirma que é; é uma aposta no lado de velocidade e custo da fronteira de Pareto.

Scoreboard for NVIDIA Nemotron 3.5 Lightning 30B A3B: Active params 3B, Total params 30B, Context up to 1M tokens, MMLU 78.6 (vendor), Output speed up to 4x vs class (vendor), AA Index 24 (Nvidia-cited); footer reads 'Vendor-reported as of Aug 11, 2026 — no independent run yet.'

Para que serve: a camada de execução dos agentes

A proposta da Nvidia é uma divisão de trabalho: um modelo de fronteira planeja e raciocina, e um executor barato lida com as milhares de chamadas rotineiras que fazem um agente realmente funcionar o dia todo. Por isso o mesmo anúncio inclui uma biblioteca de roteamento — a Lightning pretende ser uma camada em um sistema maior, não o sistema inteiro.

Os estudos de caso de parceiros são fornecidos pela Nvidia, portanto leia-os como marketing com números anexados. O que melhor ilustra o propósito do modelo é o CodeRabbit, que afirma ter pós-treinado o Lightning para revisão de código em menos de três horas por menos de US$ 100, ganhando cerca de 4% de precisão em relação a uma linha de base da classe GPT com aproximadamente metade do custo de inferência. Quer você confie nos números exatos ou não, a forma é a história: um modelo com 3B ativos é barato o suficiente para ajustar fino com seus próprios dados e servir em escala, que é toda a proposta de valor.

A matemática dos custos

Não há preço de tabela para o Nemotron 3.5 Lightning, porque não há nada para comprar — os pesos são gratuitos sob a OpenMDW-1.1, juntamente com os dados de treinamento e receitas. O preço é o que um provedor cobra para servi-lo, e esse número variará mais do que a qualidade, uma vez que APIs de terceiros comecem a disponibilizar a família. Para prototipagem, a Nvidia o oferece como um microserviço NIM em sua própria plataforma build.nvidia.com, que é gratuito para testar com limite de taxa e sem cartão de crédito.

Duas realidades de custo importam antes de você avaliar isso. Primeiro, "30B total, 3B ativos" significa que a inferência é barata por token, mas os 30B completos ainda precisam estar na memória de cada GPU — servir o modelo não é gratuito, e a concorrência em lote determina a rapidez com que ele realmente executa. Segundo, quando um modelo de pesos abertos é disponibilizado em várias APIs hospedadas, os preços por token entre provedores podem diferir por múltiplos, e essa diferença não é um sinal de qualidade. É aí que um gateway de repasse mostra seu valor: o OrcaRouter repassa os preços de tabela dos provedores diretamente, com margem de 0%, de modo que uma redução de preço no provedor entra em vigor no mesmo dia e a variação de preços permanece por conta do mercado. O Nemotron 3.5 Lightning ainda não está no OrcaRouter — os pesos foram disponibilizados há poucas horas — mas o padrão para adotar com segurança um modelo recém-lançado é roteá-lo atrás de failover automático, para que um problema de cold start em um host não derrube um caminho de produção.

O roteador que veio com ele.

NeMo Switchyard é uma tecnologia que vale a pena entender, pois é a aposta da Nvidia em como a IA agêntica aberta deve funcionar: não um grande modelo, mas um sistema que envia cada etapa para o modelo mais capaz e eficiente disponível. É uma biblioteca de código aberto que você integra ao seu harness, com controles para ajustar qualidade, latência ou custo. O benchmark da própria Nvidia afirma precisão de nível de fronteira com cerca de um terço do custo de um modelo de fronteira executado sozinho.

Os resultados dos parceiros, novamente reportados pela Nvidia, são direcionalmente consistentes: a Boomi afirma que roteou 59% do tráfego para um modelo especializado 5× mais rápido com 21% menor latência de turnos posteriores; a Cognition relata 28% menor custo médio; a Ramp afirma que igualou o desempenho de modelos de fronteira em seu próprio SWE-bench com custo 58% menor. O ponto de dado mais honesto é o da LangChain: 74% menor custo em 145 tarefas de agentes multi-etapas, com apenas 7% das chamadas indo para um modelo de fronteira — com uma troca de 6% de precisão. Roteamento não é gratuito; é uma troca deliberada.

Switchyard é uma biblioteca, o que significa que é o caminho do faça-você-mesmo: você define a política, integra-a, opera-a. A alternativa gerenciada é uma API de roteamento hospedada, onde uma única chave cobre um catálogo de mais de 200 modelos, o failover é um padrão em vez de algo que você conecta, e um DSL de roteamento permite compor vários modelos em uma única chamada. Os próprios números de teste da Nvidia — 59%, 74%, 58% — são o argumento mais forte para esse padrão, independentemente da camada em que você o execute.

Como executá-lo hoje

O suporte no primeiro dia é amplo. Os checkpoints rodam localmente em PCs RTX, DGX Spark, DGX Station e hardware Jetson, e no data center em GPUs Hopper e Blackwell. O ecossistema anunciado abrange vLLM, SGLang, llama.cpp, Ollama, LM Studio, Unsloth e TensorRT-LLM, além de um contêiner NIM para a infraestrutura da Nvidia. Para pós-treinamento, a Nvidia também lançou um conjunto de dados RL aberto, Nemotron-RL-Agentic-Terminal-Pivot, voltado para capacidades de agente de codificação — útil se você planeja fazer sua própria etapa de RL sobre a base.

Screenshot of the NVIDIA developer blog post announcing Nemotron 3.5 Lightning for long-running agent workloads, dated August 11, 2026

Quem deve agir agora

Três grupos ganham algo com este lançamento, e eles devem fazer coisas diferentes. Se você constrói modelos — pré-treinamento contínuo, pós-treinamento de domínio, destilação — o checkpoint Base-BF16 é o download que interessa, e é genuinamente inédito: a Nvidia nunca disponibilizou um pré-treinamento bruto da classe de 30B sob esta licença. Se você serve modelos, o checkpoint NVFP4 e o caminho NIM valem a pena ser avaliados em comparação com o que você já roda para cargas de trabalho de agentes; o perfil de 3B ativos é todo o argumento de venda. E se você é um desenvolvedor de aplicações, a resposta honesta é esperar um pouco: os modelos ajustados ainda não estão disponíveis em APIs hospedadas de forma estável, números independentes estão a semanas de distância, e o panorama de custos ficará mais claro quando o mercado precificar um MoE aberto de 30B.

O que acompanhar a seguir: a primeira execução independente no Artificial Analysis, que confirmará ou desmentirá a alegação do Index-24; os preços que os primeiros provedores de hospedagem definirão para os checkpoints ajustados; e com que frequência os números do próprio Switchyard da Nvidia aparecem nos benchmarks de outras pessoas. Este é um lançamento sobre eficiência e roteamento, não sobre uma nova fronteira — e é isso, não a ficha técnica, que é a história.

Perguntas frequentes

Posso usar o checkpoint Base-BF16 para chat imediatamente?

Não. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 é o checkpoint pré-treinado bruto, sem SFT ou RL aplicados — ele não é ajustado para instruções. A opção com capacidade de chat e raciocínio é a versão irmã NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 de referência, que passou pelo pipeline completo de quatro etapas; a base existe para ser posteriormente pós-treinada, não para ser implantada como está.

O Artificial Analysis Index de 24 é uma pontuação independente?

Não — ainda não. Esse número é a Nvidia citando uma pontuação para um modelo que, em 11 de agosto de 2026, ainda não aparece no leaderboard público da Artificial Analysis. Laboratórios independentes não publicaram resultados do Nemotron 3.5 Lightning, então trate todos os números nos materiais de lançamento como relatados pelo fornecedor até que uma execução de terceiros apareça.