Nemotron 3.5 Bolt 74B vs Qwen3.8-Max: A Maior Diferença do Ranking

Toda comparação na família N​emotron 3.5 Bolt tem uma lacuna. Esta tem a maior. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB pontua 21,4 no Artificial Analysis Intelligence Index; Qwen3.8-Max, o carro-chefe da A​libaba e o modelo com maior pontuação nesta série de comparações, pontua 45,4 no mesmo ranking executado de forma independente. São 24 pontos, mais do que toda a pontuação do índice do modelo menor, e é o ponto de partida honesto para quem pergunta se um agente local de 24GB pode substituir a fronteira.

Não pode. O que faz valer a pena escrever sobre o par é que os dois modelos vencem em linhas totalmente diferentes, e que a própria tabela de benchmarks da NVIDIA compara o Bolt a um modelo Qwen que não é este.

Dois modelos sem nada em comum, exceto a multimodalidade

N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB é um modelo de visão e linguagem de 74 bilhões de parâmetros, comprimido para um checkpoint de 2 bits que cabe em 24 gigabytes de memória. Seus pesos foram disponibilizados no Hugging Face em 7 de outubro de 2026; a N​VIDIA o citou pelo nome em um post de lançamento em 15 de outubro. Ele foi criado para trabalho agêntico local — chamadas de ferramentas, navegação na web, uso de terminal, leitura de tela — e é vendido como download, em vez de serviço, sem nenhum preço por uso publicado em lugar algum.

O Qwen3.8-Max é a construção oposta. O modelo de ponta da Alibaba é uma mistura esparsa de especialistas que a empresa posiciona diretamente contra os modelos fechados mais fortes de sua janela de lançamento, servido por três formatos de interface — uma interface compatível com OpenAI, uma interface compatível com Anthropic e o DashScope da própria Alibaba — em regiões de Pequim, Singapura, Tóquio, Frankfurt e Virgínia. O modelo hospedado foi lançado em 3 de agosto de 2026 com entrada de imagem e vídeo, contexto de um milhão de tokens e uma opção de raciocínio; o snapshot de 2 de setembro é a versão atualmente avaliada nos rankings. O irmão de pesos abertos da mesma família, Qwen3.8-2.4T-A95B, é um lançamento separado e não o modelo medido aqui.

Um é um arquivo. O outro é um serviço. A comparação ainda tem utilidade, porque o serviço publica um preço e o arquivo não, e a diferença entre eles é o que uma implantação local está de fato comprando.

• Índice de Inteligência — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB: 21,4. Qwen3.8-Max: 45,4. Ambos medidos de forma independente pela Artificial Analysis.

• Contexto — 262.144 tokens para o checkpoint da NVIDIA em comparação com aproximadamente 983.000 para o Qwen3.8-Max, com uma saída máxima de 131.072 tokens do lado da Alibaba.

• Parâmetros — 74B no total e 9B ativos para o Bolt; o nível principal da Alibaba é uma mistura esparsa de especialistas de uma ordem totalmente diferente, ativando aproximadamente 95B parâmetros por token em sua forma de pesos abertos.

• Entradas — texto, imagens e vídeo como entrada, texto como saída para ambos. Esta é a única dimensão em que os dois são genuinamente semelhantes.

• Preço — Qwen3.8-Max: $2.00 por milhão de tokens de entrada, $6.00 por milhão de tokens de saída, $0.25 para entrada em cache. Bolt: nada, porque não há endpoint para comprar.

• Custo por tarefa do Intelligence Index — US$ 5,41 para o Qwen3.8-Max, medido. Nenhum valor para o Bolt, pelo mesmo motivo.

• Velocidade — Qwen3.8-Max: 39,8 tokens de saída por segundo, com 3,06 segundos até o primeiro token e uma mediana de 50,3 segundos de tempo de raciocínio por resposta, tudo medido de forma independente. Bolt: não existe medição independente de throughput.

As linhas, de onde vêm os 24 pontos

A Artificial Analysis executou ambos. Ler o detalhe linha a linha é mais útil do que o composto, porque o composto esconde o fato de que nenhum dos modelos está uniformemente à frente.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 por cento, medido de forma independente. O Bolt não tem entrada independente neste benchmark; a NVIDIA reporta 50,98 na sua ficha de modelo.

• GPQA Diamond — Qwen3.8-Max com 92,8% de forma independente. O 86,43 do Bolt é o número da própria NVIDIA, e o painel não tem nenhum número independente para ele.

• Humanity's Last Exam, sem ferramentas — Qwen3.8-Max com 43,1% contra 24,7% do Bolt, ambos medidos de forma independente.

• Recuperação de contexto longo (AA-LCR) — 80,3 por cento contra 69,7 por cento, ambos medidos.

• Codificação científica (SciCode) — 52,1 por cento contra 39,7 por cento, ambos medidos.

• Raciocínio multimodal (MMMU-Pro) — Qwen3.8-Max 82,8 por cento, medido de forma independente. Bolt não tem entrada independente, o que é uma omissão notável para um modelo cujo principal argumento de venda é que consegue ver.

• Entregáveis ocupacionais (GDPval-AA) — Qwen3.8-Max 0,583 normalizado em relação aos 0,240 do Bolt, ambos medidos.

• Operações agênticas e de TI — o Qwen3.8-Max registra 42,4 por cento no APEX-Agents, 40,3 por cento no ITBench-SRE e 45,0 por cento em uma avaliação de agente analista. O Bolt não tem pontuações independentes em nenhuma dessas três colunas.

• Não alucinação (AA-Omniscience) — Qwen3.8-Max 71,2% contra 56,3% do Bolt, com precisão de 31,7% contra 17,1%. Ao contrário da comparação Bolt versus Ultra, em que o modelo comprimido vence a linha de calibração, aqui o modelo principal leva ambas.

• Custo por tarefa de indexação — US$ 5,41 para o Qwen3.8-Max. Este é o valor de custo por tarefa mais alto na família de comparações em torno deste modelo, e é o número que torna a opção local interessante mesmo com um déficit de 24 pontos.

O que $5.41 por tarefa compra, e o que 24GB compra em vez disso

A economia do Qwen3.8-Max é incomum para um modelo de fronteira: o preço por token, de US$ 2,00 na entrada e US$ 6,00 na saída, é moderado, mas o modelo passa muito tempo pensando. O tempo mediano de raciocínio nas execuções do painel é de 50,3 segundos, e o tempo de resposta ponta a ponta tem média de 65,9 segundos. Uma tarefa que faz o modelo gastar um minuto de deliberação interna gera muitos tokens de saída, e o custo por tarefa do índice é a métrica que expõe isso. Isso não é uma crítica ao modelo — o raciocínio profundo é o produto —, mas é a razão pela qual um loop de agente de alto volume fica caro rapidamente nesse nível.

É exatamente para essa carga de trabalho que o Bolt foi feito. Um checkpoint local não tem nenhum medidor por token: o custo marginal de uma chamada de ferramenta é eletricidade, e o custo fixo é uma GPU. Para um agente sempre ativo que executa milhares de pequenos passos procedimentais — ler uma tela, chamar um endpoint, editar um arquivo —, a comparação não é 21,4 contra 45,4, e sim uma constante contra uma fatura que só cresce. O enquadramento da própria NVIDIA é que o Bolt existe para que tarefas agênticas do dia a dia possam rodar localmente, sem enviar a carga de trabalho para a nuvem, e ela relata 50,86 no WebArena vision e 66,75 no BrowseComp exatamente para essas tarefas.

O senão é que o custo fixo é real e a latência é desconhecida. A receita de serving de referência da NVIDIA é composta por várias etapas: uma build nightly fixada do vLLM, o pacote de kernels b12x, um plugin de parser de raciocínio baixado separadamente, backends explícitos de Mamba e de atenção, e uma configuração de decodificação especulativa que usa o drafter LiLiCorr com sete tokens de rascunho. O throughput é publicado pela NVIDIA em 83,99 tokens por segundo no AIPerf SPEED-Bench-Coding numa máquina de classe portátil — um número de fornecedor num benchmark de fornecedor, sem qualquer execução independente para o aferir.

O baseline que a {{1}}NVIDIA{{/1}} escolheu

Há mais uma coisa que vale a pena notar, e é uma lição de leitura, e não uma lição técnica. A tabela de benchmarks na ficha de modelo do Bolt inclui um modelo Q​wen como ponto de comparação — e é o Qwen3.6-35B-A3B, um modelo muito menor do que o flagship medido nesta página. A tabela da N​VIDIA mostra o Bolt vencendo em Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR e MCP-Atlas contra esse modelo, enquanto perde em acurácia do AA-Omniscience, não alucinação do AA-Omniscience e PinchBench.

Essas comparações podem muito bem estar corretas. Mas um leitor que tira "Bolt vence o Qwen" da tabela está comparando um modelo de borda de 74B com um MoE de classe densa de 35B, não com o nível de fronteira da Alibaba. Contra o Qwen3.8-Max, o histórico independente segue o sentido oposto em quase todas as linhas compartilhadas, e a diferença aumenta em vez de diminuir nos benchmarks mais difíceis. Quando um fornecedor escolhe suas próprias linhas de base, a atitude honesta é verificar qual é a linha de base.

Como decidir

Escolha o Qwen3.8-Max quando a correção for a restrição. Se a tarefa for análise em várias etapas, raciocínio multimodal difícil, trabalho agêntico com consequências reais, ou qualquer coisa medida pelos benchmarks nos quais ele fica 24 pontos à frente, a opção local não é candidata — e, a US$ 2,00 e US$ 6,00 por milhão de tokens, tem preço de infraestrutura, não de luxo. Também é o modelo a escolher quando o fluxo de trabalho precisa de saídas estruturadas, chamada nativa de ferramentas e um contexto de um milhão de tokens em uma única chamada, tudo o que a Alibaba documenta como suportado.

Escolha o Bolt quando a restrição for onde o trabalho acontece. Privacidade, operação offline, latência que não depende de uma rede e um custo por chamada que não existe são quatro argumentos separados, e cada um deles é suficiente por si só para algumas equipes. O modelo é competente em procedimentos e fraco em recall; direcione-o para o primeiro.

Na metade hospedada, o Qwen3.8-Max está acessível pelo OrcaRouter como qwen/qwen3.8-max/ na mesma chave de mais de 200 outros modelos, pelo preço de tabela do provedor da Alibaba, sem nenhum acréscimo de margem — o que significa que uma mudança de preço do fornecedor chega ao nosso lado no mesmo dia, e não no fim do ciclo de faturamento. Isso importa mais nesta camada do que em uma camada barata, porque US$ 5,41 por tarefa de índice é um número que uma equipe financeira vai querer revisar todo mês. Onde o roteamento muda a forma da decisão é no problema de volume: uma carga de trabalho composta por 90% de pequenos passos procedurais e 10% de raciocínio pesado pode enviar esses 10% para cá e manter o resto local, com failover automático entre provedores, de modo que a camada hospedada se degrada em uma nova tentativa, e não em uma indisponibilidade.

Não hospedamos nenhum modelo N​VIDIA e não temos nenhum endpoint Bolt — a família N​emotron não está no nosso catálogo, e a metade local desta comparação é uma questão de hardware que nenhuma camada de roteamento toca.

O número não resolvido

O que ninguém publicou é a medição que tornaria esta comparação completa: uma execução independente de latência e vazão no checkpoint de 24 GB com tamanho de lote um, em uma máquina que uma pessoa consegue comprar. Se um checkpoint de 74B em 2 bits acabar rodando etapas interativas de agente a uma velocidade utilizável, a diferença de 24 pontos se torna uma diferença que dá para contornar — local para procedimento, hospedado para raciocínio. Se não rodar, a opção local é uma ferramenta de lote e a comparação se resume a preço. De qualquer forma, a resposta está a uma publicação de distância, e é isso que se deve procurar antes de planejar uma implantação em torno deste modelo.

Comparações como esta também são onde os modos de falha se manifestam: os incidentes de IA documentados e as falhas de agentes por trás dos modelos desta classe estão reunidos no OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, gravidade, grau de confiança e indicador de contestação.