Nemotron 3.5 Bolt 74B vs DeepSeek V4 Pro: Ambos abertos, um cabe em 24 GB

O Nemotron 3.5 Bolt 74B-A9B 24GB da NVIDIA e o DeepSeek V4 Pro estão do mesmo lado da linha entre aberto e fechado e não estão nem perto um do outro na linha de hardware. Ambos publicam pesos que você pode baixar, ambos permitem uso comercial, e ambos podem ser servidos sem pedir permissão a ninguém. Um deles tem 74 bilhões de parâmetros, com 9 bilhões ativos, quantizado para caber em 24 gigabytes, de modo que roda em uma máquina da classe de um laptop ao lado dos seus outros aplicativos. O outro tem 1,6 trilhão de parâmetros, com 49 bilhões ativos, e a expressão "pegada de implantação" não significa o que significa para o primeiro.

Essa diferença é mais determinante do que as pontuações do índice, e as pontuações do índice já diferem em 15 pontos. A seguir está a comparação que uma equipe de fato precisa fazer: não qual modelo é melhor em abstrato, mas qual destes dois produtos de pesos abertos você consegue operar fisicamente, com que qualidade e por quanto dinheiro.

Duas formas muito diferentes de "open"

Vale a pena dizer isso claramente antes de qualquer coisa, no entanto, porque as duas metades de pesos abertos não chegaram da mesma forma. A D​eepSeek publicou o V4 Pro como um produto, com uma ficha do modelo e uma tabela de preços. A N​VIDIA não anunciou o N​emotron 3.5 Bolt 74B-A9B 24GB de forma alguma. Os arquivos simplesmente apareceram: o repositório quantizado de 24GB em 7 de outubro de 2026, sua conversão para GGUF horas depois, um checkpoint BF16 em 9 de outubro, o modelo de rascunho especulativo LiLiCorr em 12 de outubro. O silêncio de dezesseis dias nos próprios canais da N​VIDIA é o estado das coisas, então a metade verificável desta comparação é o que um repositório pode provar — licença, contagens de parâmetros, formatos de arquivo, a receita de serving na ficha — e a metade não confirmada é tudo o que um post de lançamento teria trazido. Os números de throughput e as métricas agênticas abaixo são da própria N​VIDIA e estão marcados como tal, porque não há terceiros, exceto um índice, para conferi-los.

Comece pela licença e pelo checkpoint, porque é aí que uma decisão sobre pesos abertos é realmente tomada.

• Licença — N​emotron 3.5 Bolt 74B-A9B 24GB: OpenMDW-1.1, uma licença permissiva de pesos de modelo com uma inclusão explícita de uso comercial; o cartão da N​VIDIA afirma que o modelo está pronto para uso comercial ou não comercial. DeepSeek V4 Pro: MIT, que é praticamente tão irrestrita quanto uma licença de pesos pode ser.

• O que é realmente publicável — N​emotron 3.5 Bolt 74B-A9B 24GB: a build IQ2 de 24GB, um checkpoint BF16 antes da quantização, builds GGUF para o llama.cpp e um drafter especulativo LiLiCorr separado. DeepSeek V4 Pro: o checkpoint com pesos completos e os seus derivados.

• De onde veio o checkpoint — N​emotron 3.5 Bolt 74B-A9B 24GB: comprimido do modelo pai N​emotron 3.5 Super VL 120B-A12B da N​VIDIA usando Star Elastic, uma busca de arquitetura guiada por roteador, e então quantizado com destilação ciente de quantização. É um filho destilado, não um modelo treinado do zero, e a própria página de pesquisa da N​VIDIA argumenta explicitamente que comprimir um modelo grande em um orçamento fixo supera treinar um modelo pequeno do zero. DeepSeek V4 Pro: um mixture-of-experts de escala de fronteira treinado nativamente.

Esse terceiro ponto é o que decide a maioria das avaliações que você vai ler. Qualquer comparação de benchmark entre esses dois é uma comparação entre uma filosofia de projeto de compressão agressiva e uma filosofia de projeto de escala, e as duas não convergem nas mesmas cargas de trabalho.

Em que cada um mede

A Artificial Analysis executou ambos, na mesma revisão atual do seu índice, que é a única razão pela qual uma frase como esta pode sequer ser escrita.

• Índice de Inteligência — N​emotron 3.5 Bolt 74B-A9B 24GB 21, quarto de 67 modelos na sua classe de tamanho de pesos abertos. DeepSeek V4 Pro 36, nono de 116, medido na build 0813 na configuração máxima.

• Custo por tarefa do Índice de Inteligência — N​emotron 3.5 Bolt 74B-A9B 24GB: não aplicável, porque o painel não registra nenhuma API pública para ele e não há preço medido pelo qual dividir. DeepSeek V4 Pro: 0,67 dólares medidos com base na ponderação do próprio painel.

• Velocidade de saída — N​emotron 3.5 Bolt 74B-A9B 24GB: a N​VIDIA relata 83,99 tokens por segundo no AIPerf SPEED-Bench-Coding com seu drafter, em um Surface Laptop Ultra. DeepSeek V4 Pro: 96,3 tokens por segundo medidos pela Artificial Analysis em relação à API hospedada. Os dois números não são a mesma medição e não devem ser subtraídos um do outro; o que eles estabelecem é que ambos são rápidos o suficiente para que a velocidade não seja sua restrição.

• Verbosidade — N​emotron 3.5 Bolt 74B-A9B 24GB gerou 230 milhões de tokens durante a execução de índice do painel, contra uma mediana de 100 milhões para sua classe — a própria nota do painel o considera muito verboso. O DeepSeek V4 Pro gerou 160 milhões contra uma mediana de 130 milhões. Numa API com medição por uso, essa diferença é um item de linha; numa máquina local, é eletricidade e tempo de relógio.

A lacuna de 15 pontos no índice é real e não é fechada pelo fato de o modelo menor ser mais barato de executar. O que a fecha, nas cargas de trabalho em que ela chega a ser fechada, é o próprio conjunto de benchmarks do fornecedor — e vale a pena ler esse conjunto com a desconfiança adequada. A ficha da NVIDIA coloca o modelo Bolt com 50,98 no Terminal-Bench 2.1 e 66,75 no BrowseComp, à frente de todas as colunas de comparadores impressas ao lado. Esses são os números da NVIDIA na ficha da NVIDIA, e a DeepSeek não é uma das colunas.

O diagrama de implantação é a decisão real.

É aqui que DeepSeek V4 Pro e N​emotron 3.5 Bolt 74B-A9B 24GB deixam de ser substitutos um do outro.

• Espaço para rodar. Um modelo de 1,6 trilhão de parâmetros, com 49 bilhões de parâmetros ativos, precisa de um cluster de serving. Mesmo fortemente quantizado, apenas o checkpoint já está uma ordem de magnitude além do que uma única estação de trabalho consegue comportar, e a contagem de parâmetros ativos significa que cada token acessa uma fatia substancial da largura de banda de memória, independentemente do esquema de quantização. O modelo Bolt foi projetado em função de um teto declarado — a busca de arquitetura da NVIDIA tem como meta uma ocupação de memória abaixo de 24 GB com tamanho de lote um e contexto de 128K — e a busca é executada com a quantização a jusante já contabilizada.

• Stack de serving mínimo viável. O N​emotron 3.5 Bolt 74B-A9B 24GB requer um nightly específico do vLLM com o v2 model runner habilitado, um plugin de reasoning-parser baixado, kernels b12x e flags explícitas de backend para MoE, Mamba e atenção; o llama.cpp cobre o caminho GGUF. O DeepSeek V4 Pro é servido pelas stacks de inferência usuais em escala distribuída, o que é um tipo diferente de projeto com um tipo diferente de escala de plantão.

• Entradas. O modelo Bolt aceita texto, imagens e vídeo, com a receita de referência limitando o número de quadros de vídeo e aplicando uma taxa de poda. A lista de modalidades publicada do DeepSeek V4 Pro é texto como entrada, texto como saída — sua escala de mistura de especialistas é dedicada ao raciocínio, não à percepção.

• Contexto. 262.144 tokens para o modelo Bolt, contra aproximadamente um milhão para o DeepSeek V4 Pro. Se a sua carga de trabalho for um repositório, um conjunto de contratos ou uma longa transcrição de agente, essa é uma diferença real de quatro vezes, e é a favor da DeepSeek.

Falando claramente: se você tem um datacenter e uma carga de trabalho que precisa de raciocínio de fronteira, o DeepSeek V4 Pro é o melhor modelo, e o índice diz isso. Se você tem um laptop, um Spark box ou uma workstation, e o requisito é que o modelo rode localmente junto com todo o resto, o N​emotron 3.5 Bolt 74B-A9B 24GB não representa uma concessão nesse requisito — é o único dos dois que o cumpre.

O que o modelo menor lhe oferece além do disco

Três coisas que não aparecem em uma pontuação de índice e aparecem em uma revisão de implantação.

• Ele funciona com o cabo de rede desconectado. Um checkpoint de 24 GB no armazenamento local não tem dependência de disponibilidade, nem limite de taxa, nem incidente do provedor. Para um agente que roda em uma máquina que você possui, esse é todo o objetivo do design e a razão pela qual a N​VIDIA comprimiu um modelo pai de 120B em vez de lançar algo em precisão total.

• A especulação é barata e segura aqui. O drafter LiLiCorr adiciona menos de um gigabyte em disco e a NVIDIA relata comprimentos médios de aceitação de 4,68 no modo greedy e 4,25 no modo probabilístico com sete tokens rascunhados e concorrência 64. Como o modelo alvo verifica cada rascunho, um palpite ruim custa velocidade em vez de precisão — a distribuição de saída é preservada. É essa propriedade que torna razoável disponibilizar um caminho especulativo em uma máquina local, e isso está documentado na ficha do modelo.

• Toda a stack é inspecionável. Pesos, configuração de quantização, drafter, receita de serving e relatório técnico são todos públicos. Quando o modelo se comporta mal, você pode ler a configuração em vez de abrir um ticket.

Calculando honestamente os custos das duas opções

A comparação de preços não é simétrica, e fingir que é seria o erro mais fácil desta página.

• O Nemotron 3.5 Bolt 74B-A9B 24GB não tem preço por token porque não tem endpoint com medição. Seu custo é o hardware que você compra ou já possui, mais energia elétrica, mais as horas de engenharia para implantar a receita de serving. Depois que isso for pago, o custo marginal por token fica próximo de zero e permanece assim.

• O DeepSeek V4 Pro é cobrado por uso. No OrcaRouter, ele é roteado pela tabela publicada da DeepSeek, 0,66 dólares por milhão de tokens de entrada e 1,98 dólares por milhão de tokens de saída, sem nenhuma margem adicionada por cima — de modo que uma mudança de preço do fornecedor passa a valer do nosso lado no mesmo dia. Para uma carga de trabalho na casa dos milhões de tokens por dia, isso é uma linha orçamentária, não um erro de arredondamento.

• O ponto de equilíbrio não é uma contagem de tokens, é um perfil de utilização. Um modelo local que fica ocioso é puro capex. Um modelo hospedado que executa uma requisição por semana é quase gratuito. A transição acontece quando os tokens que você mediria excedem o custo amortizado da máquina, e a única forma de saber onde isso fica para o seu tráfego é medir uma semana dele.

Há também uma terceira opção que quase não custa nada para experimentar, que é o OrcaRouter rotear o DeepSeek V4 Pro em uma única chave junto com mais de 200 outros modelos, com failover automático entre provedores. Antes de dedicar uma estação de trabalho a uma build local de 24GB, comparar a saída dessa build com um modelo de fronteira cobrado por uso no seu próprio conjunto de prompts custa alguns dólares e resolve a questão da qualidade empiricamente, em vez de se apoiar na força de uma tabela de índices.

A versão desta decisão de que ninguém se arrepende

Rode os dois, no padrão em que cada um é bom. DeepSeek V4 Pro para as requisições em que a profundidade de raciocínio ou um contexto de um milhão de tokens é o ponto, e em que o custo medido é visível e aceitável. Nemotron 3.5 Bolt 74B-A9B 24GB para o tráfego de alto volume, privado, multimodal ou offline, em que o modelo ser local é o requisito, e não uma otimização de custos.

A comparação que as pessoas insistem em fazer — um número de índice contra outro — é o enquadramento menos útil aqui, porque os dois produtos não foram feitos para competir. Um foi feito para ser o melhor possível sem restrição de footprint. O outro foi feito para ser o melhor possível dentro de 24 gigabytes. Ambos são abertos, ambos são legítimos, e é exatamente por isso que a escolha é sua, e não de um fornecedor, para fazer por você.

Também é em comparações como esta que os modos de falha aparecem: os incidentes de IA documentados e as falhas de agentes por trás de modelos nesta classe são coletados no OrcaRouter AI Incident Archive, onde cada entrada carrega suas próprias fontes, gravidade, grau de confiança e sinalização de disputa.