Nanbeige4.3-33B vs Nemotron 3.5 Lightning 30B A3B: Um Professor Contra um Executor

O NVIDIA Nemotron 3.5 Lightning 30B A3B roda a 294,9 tokens de saída por segundo. O Nanbeige4.3-33B não tem velocidade publicada nenhuma, porque ninguém o serve. Esses dois fatos dizem mais sobre este confronto do que qualquer linha de benchmark: um modelo é um produto de vazão projetado, com tabela de preços e uma proposta de implantação em GPU única, e o outro é um checkpoint denso de 33 bilhões de parâmetros que surgiu no Hugging Face em 24 de outubro de 2026 com um model card e nenhum provedor de inferência. Ambos são "classe 30B". Não são o mesmo tipo de objeto.

Vale a pena fazer a comparação porque ambos estão sendo direcionados ao mesmo comprador — alguém que constrói um agente de longa duração e precisa executar muitos passos pequenos sem arcar com a conta de um modelo de fronteira. A resposta da NVIDIA é reduzir a computação por token. A resposta da Nanbeige é tornar um modelo maior e mais denso bom o suficiente em trabalho agêntico para que você precise apenas de um. São apostas opostas, e as evidências para cada uma são de naturezas muito diferentes.

3,6 bilhões de parâmetros ativos são todo o argumento.

O Nemotron 3.5 Lightning 30B A3B é um modelo híbrido de mistura de especialistas: 31,6 bilhões de parâmetros totais, 3,6 bilhões ativos por token, distribuídos em 52 camadas — 23 Mamba-2, 23 MoE e 6 de atenção. Ele roteia para 128 especialistas e ativa 6 deles, além de um especialista compartilhado. É por causa dessa arquitetura que ele consegue sustentar cerca de 295 tokens por segundo em um endpoint gerenciado, enquanto um modelo denso da classe 30B normalmente fica na faixa de 40–80.

O Nanbeige4.3-33B é denso. Todos os 33,1 bilhões de parâmetros são acionados em cada token. Não há roteamento, nem esparsidade de especialistas, nem camada Mamba. Essa é uma escolha deliberada com uma consequência clara: cada token custa aproximadamente nove vezes a computação ativa do Lightning, e o modelo precisa de cerca de 66 GB de pesos em BF16 — ou cerca de 20 GB em 4 bits — residentes antes de gerar qualquer coisa.

Nenhum dos dois designs é melhor em abstrato. Modelos densos tendem a ser mais simples de ajustar e mais previsíveis em qualidade; modelos esparsos tendem a ser mais baratos e rápidos de servir no mesmo tamanho nominal. A questão é de qual propriedade sua carga de trabalho carece.

O que cada modelo foi criado para fazer

A NVIDIA posiciona o Lightning como a camada de execução de um agente sempre ativo — o modelo que recebe um plano de um sistema maior e processa, a baixo custo, chamadas de ferramentas, edições de arquivos e etapas de navegador. Ele é destilado do Nemotron 3 Ultra, vem com decodificação especulativa por previsão de múltiplos tokens incorporada ao pré-treinamento, além de modelos draft separados, e é ajustado para harnesses em vez de chat. Seu conjunto de benchmarks publicados reflete isso: PinchBench 85,4–86, BrowseComp 36,8–36,97, SWE-bench Verified 51,56–52,8, Terminal-Bench 2.1 em torno de 23,5–24,6.

O Nanbeige4.3-33B é posicionado como professor. O cartão diz isso diretamente: é o carro-chefe da série 4.3, destinado a ser destilado em modelos menores, como o Nanbeige4.3-3B, ainda não lançado. Seu conjunto de benchmarks é correspondentemente amplo — 20 linhas abrangendo codificação agêntica, cowork agêntico e raciocínio — e suas configurações recomendadas são as de um modelo que você mesmo executa: tamanho de tensor-parallel 4, chamadas de ferramentas XML, preserve_thinking=true para uso de ferramentas em múltiplos turnos.

Um é um componente no sistema de outra pessoa. O outro é um modelo de origem para uma família. Esse enquadramento explica quase todas as diferenças abaixo.

O único ponto de referência que eles compartilham não pode ser subtraído.

Ambas as placas reportam Terminal-Bench 2.1. A Nanbeige afirma 80.9. A faixa publicada pela NVIDIA para o Lightning é de aproximadamente 23.5–24.6. À primeira vista, isso é uma diferença de 56 pontos, e é o número que será citado.

Não deveria ser. O Terminal-Bench mede um modelo dentro de um scaffold de agente, e os dois fornecedores não descrevem o mesmo scaffold. A ficha da Nanbeige diz que sua execução do Terminal-Bench 2.1 usou o Terminus 2 e que seus modelos foram avaliados com o maior esforço de raciocínio, com um harness compartilhado e parâmetros de inferência compartilhados. Os números da NVIDIA vêm de seu próprio harness interno, que a própria empresa sinaliza como potencialmente diferente dos resultados de terceiros. Um modelo denso de 33B submetido a um loop favorável e um modelo com 3,6B ativos submetido a um loop padrão podem diferir em dezenas de pontos sem que nenhum dos modelos seja representado de forma equivocada.

A leitura honesta é direcional, não numérica: a Nanbeige está alegando desempenho agêntico em terminal substancialmente mais forte, e a alegação não foi verificada por nenhum dos lados. A mesma cautela se aplica ao GPQA Diamond (Nanbeige 89,5, Lightning 74,3–75,6) e ao AA-LCR (Nanbeige 84,0, Lightning 52,0–60,3). Essas diferenças são grandes o suficiente para que parte da discrepância provavelmente seja capacidade real, e não do harness. Mas "provavelmente" carrega muito peso nessa frase, e nenhum terceiro executou a comparação.

O que não é ambíguo é a cobertura independente. A Artificial Analysis atribui 13 ao Nemotron 3.5 Lightning no seu Intelligence Index. Não tem nenhuma entrada para o Nanbeige4.3-33B. Um modelo tem uma segunda opinião; o outro tem um model card. Essa assimetria é informação, e depõe contra o fornecedor cuja tabela faz mais barulho.

1M de contexto no papel, 256K na prática

A Artificial Analysis lista a janela de contexto do Lightning em 1 milhão de tokens. A documentação da própria NVIDIA é mais conservadora: 262.144 tokens é o teto prático em uma única H100. Ambos os números podem ser verdadeiros — a arquitetura suporta uma janela mais longa, mas o hardware em que você provavelmente vai executá-lo não a comporta confortavelmente.

Os 524.288 tokens do Nanbeige4.3-33B são uma janela treinada em um modelo denso, e o custo de memória do cache KV escala com ela. As receitas de vLLM e SGLang do card usam 0,8 de utilização de memória da GPU e tamanho de paralelismo de tensor 4, o que indica que a implantação pretendida não é em uma única placa.

Para trabalho de agentes, a diferença prática tem menos a ver com o máximo e mais com o que sobrevive a uma execução longa. As camadas híbridas Mamba do Lightning são projetadas para manter o estado barato em sequências longas; a atenção densa do Nanbeige não é. A NVIDIA também publica AA-LCR em 52,0–60,3, que é uma pontuação de raciocínio de contexto longo, e a Nanbeige publica 84,0 no mesmo benchmark. Se você acreditar nas duas tabelas, o raciocínio de contexto longo do Nanbeige é muito mais forte. Se você acreditar apenas na administrada de forma independente, a do Lightning é a única que você pode verificar.

A aritmética de hospedar um modelo denso de 33B

É aqui que a comparação deixa de ser sobre qualidade e passa a ser sobre utilização.

A Lightning está listada a US$ 0,06 por milhão de tokens de entrada e US$ 0,20 por milhão de saída em um endpoint gerenciado. A Nanbeige não tem tabela de preços porque nenhum provedor a implanta; a tabela diz isso sem rodeios. Para usá-la, você aluga ou compra GPUs e segue a receita de paralelismo tensorial em quatro vias.

Suponha, apenas para fins aritméticos, que quatro GPUs da classe H100 custem US$ 2 cada por hora — US$ 8 por hora pelo nó. Para empatar com o preço de saída do Lightning, esse nó precisa produzir 40 milhões de tokens de saída por hora, o que equivale a cerca de 11.100 tokens por segundo de forma sustentada. Um modelo denso de 33B em quatro GPUs não fará isso. Mesmo com um décimo do custo de GPU, a taxa de transferência de equilíbrio é superior a mil tokens por segundo de forma sustentada, o que é uma operação séria de serving, e não um experimento secundário.

A conclusão não é que a Nanbeige seja cara. É que hospedar por conta própria um modelo denso de 33B só supera um executor de US$ 0,20 por milhão de tokens em utilização muito alta e muito constante — ou quando o trabalho não pode sair da sua infraestrutura, caso em que a comparação nunca foi sobre preço. Em volumes baixos ou irregulares, o modelo esparso gerenciado vence em custo por uma margem ampla antes mesmo de a qualidade entrar na discussão.

Onde um roteador se encaixa em um sistema de dois modelos

A arquitetura que a NVIDIA está vendendo — um planejador de fronteira, um executor barato — é a arquitetura com que a maioria das equipes de agentes acaba ficando de qualquer forma. É também o formato para o qual uma camada de roteamento é feita: nossa DSL de roteamento compõe vários modelos em uma única chamada para que um planejador e um executor possam ficar atrás de um único endpoint, e o failover automático impede que um executor com dificuldades se transforme em um agente travado.

Não oferecemos Nemotron 3.5 Lightning 30B A3B nem Nanbeige4.3-33B hoje, portanto esta não é uma proposta de disponibilidade para nenhum dos dois. É uma nota sobre onde o custo de integração recai. Se você hospedar o Nanbeige por conta própria como planejador e chamar um modelo hospedado como executor, vale expressar a divisão como regras de roteamento, em vez de codificá-la diretamente na sua aplicação — porque o modelo que você quer em cada slot vai mudar antes de o trimestre terminar.

O orçamento de latência decide mais do que o ranking.

• Se uma única etapa de agente precisar retornar em menos de um segundo: Lightning. A 295 tokens por segundo, uma resposta de 300 tokens fica pronta em cerca de um segundo; um modelo denso de 33B no seu próprio hardware não conseguirá, e a Nanbeige não tem opção hospedada para servir de comparação.

• Se a etapa for uma longa passagem de raciocínio no início de um fluxo de trabalho: as margens alegadas pela Nanbeige no GPQA, no AA-LCR e nas linhas agênticas defendem isso — sujeito à ressalva do harness acima.

• Se a obra for em chinês: Nanbeige. Os idiomas publicados da Lightning são inglês, espanhol, francês, alemão, italiano e japonês.

• Se o trabalho for multilingue europeu: Lightning. A Nanbeige lista apenas inglês e chinês.

• Se você não tem GPUs e não tem apetite por elas: Lightning, sem dúvida.

• Se os dados não podem sair da sua rede: Nanbeige, e a comparação de custos passa a ser uma decisão de infraestrutura, e não uma questão de preço por token.

A questão em aberto

O Nanbeige4.3-33B tem dois dias e ainda não tem uma história de serving. Esse é o fato que data este artigo. Se um provedor o adotar — e a afirmação da ficha de que nenhum o faz hoje é o ponto a observar —, o lado do custo desta comparação muda completamente, porque um 33B denso hospedado a um preço por token competitivo minaria todo o argumento em favor de um executor esparso menor em trabalhos sensíveis à qualidade.

Até lá, a posição defensável é limitada. O Nemotron 3.5 Lightning 30B A3B é o modelo que você pode implantar hoje, a um preço publicado, com uma pontuação independente e aproximadamente nove vezes menos computação por token. O Nanbeige4.3-33B é o modelo que soa mais capaz no papel, com uma janela nativa de 512K e números agênticos autorrelatados que ninguém reproduziu. Se seu agente é limitado por latência e custo, a escolha já está feita. Se é limitado por qualidade e você possui o hardware, a escolha vale a pena ser testada — e o teste ainda não foi executado.