Nemotron 3.5 Bolt vs GPT-5.6 Sol: Um destes dois modelos tem um preço

Você não pode comparar esses dois modelos em termos de custo, e essa é a coisa mais útil da comparação. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB é um arquivo de 24GB: baixe-o, e o preço marginal do milionésimo token é a eletricidade. GPT-5.6 Sol é um modelo de ponta hospedado cobrado a US$ 4,00 por milhão de tokens de entrada e US$ 20,00 por milhão de tokens de saída, com um tempo p50 até o primeiro token publicado de 1,63 segundos e 535,5 milhões de tokens de tráfego nos últimos sete dias. Um desses dois tem uma tabela de preços. O outro tem um pré-requisito de hardware, que é um tipo diferente de conta que chega uma única vez.

Ambos os modelos são reais e ambos estão sendo disponibilizados. O checkpoint do Nemotron 3.5 Bolt 74B-A9B 24GB da NVIDIA ficou no Hugging Face desde 7 de outubro de 2026 sem nada anexado a ele além de uma ficha do modelo, e o próprio anúncio do fornecedor sobre a linha Bolt veio em 15 de outubro — oito dias depois, em uma publicação que nomeia tanto este modelo quanto um irmão de 4GB. O GPT-5.6 Sol está na tabela de preços da OpenAI desde 9 de julho de 2026. Se você estiver escolhendo entre eles esta semana, a decisão não é qual deles é mais inteligente. É se a carga de trabalho pode sair da sua máquina.

O que a diferença de vinte e um contra cinquenta e nove mede

O Artificial Analysis atribui ao Nemotron 3.5 Bolt 74B-A9B uma pontuação de 21 em seu Intelligence Index, classificando-o em quarto lugar entre 67 modelos na classe de comparação em que foi colocado. O GPT-5.6 Sol está na faixa alta dos cinquenta na mesma versão do índice. Uma diferença de cerca de quarenta pontos é enorme e, dita dessa forma, encerra a discussão antes mesmo de ela começar.

A diferença também são duas medições diferentes sob um mesmo número. O 21 é a melhor pontuação que qualquer modelo de pesos abertos alcançou nessa pegada — a Artificial Analysis registra a mediana de modelos de pesos abertos comparáveis em 8, e observa que o Bolt fica "entre os principais modelos em inteligência quando comparado a outros modelos de pesos abertos de tamanho semelhante". O 59 aproximado é o que um laboratório de fronteira produz quando a memória não é uma restrição. Nenhum dos números está errado. Eles respondem a perguntas diferentes: quanta inteligência cabe em 24GB, e quanta inteligência o dinheiro pode comprar.

O que o painel não conseguiu medir é mais interessante do que o que conseguiu. A página do Artificial Analysis para o Bolt lista a velocidade como N/A e o custo por tarefa do Intelligence Index como N/A, pelo simples motivo de que não há um endpoint hospedado para chamar. Todos os números de velocidade que existem para este modelo vêm do próprio benchmark da NVIDIA: a nota de pesquisa declara uma meta de projeto de pelo menos 80 tokens por segundo de decodificação e relata 84 tokens por segundo no AIPerf SPEED-Bench no RTX Spark, com 83,99 tokens por segundo em uma execução do llama.cpp em um Surface Laptop Ultra com 128GB. Esses valores podem muito bem ser precisos. Ninguém fora da NVIDIA os reproduziu, e você deve tratá-los como uma alegação do fabricante até que alguém o faça.

Onde o modelo hospedado está estruturalmente à frente

Três diferenças não têm nada a ver com inteligência, e cada uma desqualifica o arquivo local para uma classe de trabalho.

• Contexto — GPT-5.6 Sol atende uma janela de 1.050.000 tokens com saída máxima de 128.000 tokens; Nemotron 3.5 Bolt atende até 262.144 tokens. Uma janela quatro vezes mais ampla não é um recurso de luxo quando a tarefa é um repositório ou um arquivo de contratos em uma única solicitação. A janela do Bolt também precisa compartilhar 24 GB com o cache KV, as imagens, os quadros de vídeo e o histórico da conversa, o que significa que o teto prático chega antes do que a especificação sugere.

• Tipos de entrada — o GPT-5.6 Sol aceita texto, imagens e arquivos; o Nemotron 3.5 Bolt aceita texto, imagens e vídeo e retorna texto. Isso é uma vantagem genuína do Bolt em vídeo e uma lacuna real em documentos, porque um PDF enviado como arquivo não precisa ser rasterizado, paginado ou analisado quadro a quadro.

• Disponibilidade — GPT-5.6 Sol é uma URL. Nemotron 3.5 Bolt é uma implantação vLLM que requer silício Ampere, Hopper ou Blackwell, ou uma execução llama.cpp em um dispositivo RTX Spark ou DGX Spark. Você pode estar usando um deles em quatro minutos.

Existe uma quarta diferença que tem menos a ver com capacidade e mais com medição de uso: cada chamada ao modelo hospedado gera um item de cobrança, e cada chamada ao modelo local não. Para um loop de classificação ou extração de alto volume, essa inversão importa mais do que quarenta pontos de índice.

O que a posse do arquivo realmente garante

Nemotron 3.5 Bolt 74B-A9B é um modelo esparso de mistura de especialistas com 74 bilhões de parâmetros e 9 bilhões ativos por token, construído sobre uma espinha dorsal híbrida de Mamba-2 e Transformer que a NVIDIA chama de LatentMoE, com um codificador visual C-RADIO v4-H acoplado para o trabalho multimodal. É um artefato de compressão no sentido mais literal: a NVIDIA pegou o modelo 120B-A12B Nemotron 3.5 Super VL, aplicou uma busca guiada por roteador que chama de Star Elastic para reduzi-lo a 74B-A9B e, em seguida, executou destilação com reconhecimento de quantização até 2,0625 bits por peso de especialista — um formato IQ2_XXS — para caber dentro de 24 GB sem treinar novamente do zero. A licença é OpenMDW-1.1, que permite uso comercial e não comercial.

Duas consequências decorrem disso. A primeira é que o modelo é executado ao lado de outras aplicações numa estação de trabalho, em vez de as substituir, e é isso que torna um agente local viável. A segunda é que ele vem com especulação incorporada: um drafter LiLiCorr acionado através do DFlash propõe sete tokens à frente, e é daí que vem uma parte significativa desses 84 tokens por segundo.

A própria tabela de benchmark do fornecedor, que ninguém fora da NVIDIA reproduziu, coloca o checkpoint de 24 GB à frente de todas as linhas de base na mesma tabela — um Qwen3.6 35B, um Gemma 4 26B e o próprio Nemotron 3.5 Lightning 30B-A3B da NVIDIA — em GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) e BrowseComp (66.75). Leia isso como alegações sobre como um modelo de 74B comprimido se compara a modelos não comprimidos de um terço do seu tamanho, que é exatamente o que elas foram projetadas para mostrar, e não como uma comparação com um flagship hospedado.

Precificando as duas metades com honestidade

A metade hospedada tem um preço inequívoco. O GPT-5.6 Sol está no catálogo da OrcaRouter como openai/gpt-5.6-sol pelo preço de tabela do provedor OpenAI repassado com 0% de margem adicionada — US$ 4,00 por milhão de tokens de entrada e US$ 20,00 por milhão de tokens de saída, os mesmos números na nossa página e na do fornecedor, o que significa que uma mudança do lado do fornecedor chega ao nosso lado no mesmo dia, em vez de na próxima renovação de contrato. Uma entrada de 20.000 tokens com 3.000 tokens de saída custa US$ 0,08 de entrada e US$ 0,60 de saída, ou cerca de US$ 0,68 por chamada.

A metade local não tem um preço que estejamos dispostos a inventar. Não existe endpoint hospedado para o Nemotron 3.5 Bolt, nem tabela de preços, nem plataforma de terceiros que faça a medição do seu consumo e que lhe possamos indicar. Definir o seu preço significa definir o preço de uma GPU, de um consumo de energia e de um período de amortização — aritmética que pertence à sua folha de cálculo e não à nossa, porque a resposta depende inteiramente de quanto o executa.

É nessa assimetria que uma camada de roteamento faz algo concreto, e não decorativo. O Nemotron 3.5 Bolt não está no nosso catálogo e não o servimos; nada aqui constitui uma oferta para hospedar o checkpoint da NVIDIA. O que um endpoint único realmente oferece é a capacidade de manter as metades local e hospedada de um fluxo de trabalho sob uma única chave, para que uma requisição possa ser enviada ao GPT-5.6 Sol quando precisa de uma janela de um milhão de tokens ou de uma entrada de arquivo, e à sua própria implantação do Bolt quando não precisa — com a regra que decide qual é qual escrita uma única vez, em vez de codificada de forma fixa em cada serviço. Se o provedor hospedado degradar, o failover automático move a requisição em vez de a requisição falhar.

Qual escolher

• Escolha o Nemotron 3.5 Bolt 74B-A9B 24GB quando os dados não puderem sair do ambiente local, quando a carga de trabalho envolver vídeo, quando o volume for alto o suficiente para que a cobrança por token seja o custo dominante, ou quando você quiser um agente em execução em hardware que você já possui. Aceite uma janela de 262K e uma pontuação de índice que é cerca de um terço da do modelo hospedado. Verifique as alegações de throughput no seu próprio dispositivo antes de planejar a capacidade com base nelas.

• Escolha o GPT-5.6 Sol quando a tarefa exigir o contexto mais amplo, entrada de arquivos, o raciocínio mais forte disponível e um contrato de suporte por trás. Pague US$ 4 e US$ 20 por milhão de tokens por esse privilégio e observe que a saída máxima de 128K é uma resposta única mais longa do que um envelope de memória de 24 GB permitirá confortavelmente.

• Execute ambos quando o fluxo de trabalho se divide de forma limpa, o que acontece na maioria dos sistemas de agentes. O arquivo local lida com a metade de alta frequência, baixo risco e sensível à privacidade; o modelo hospedado lida com as solicitações que precisam de alcance.

A questão em aberto é a mesma que o último Nemotron comprimido levantou e ninguém respondeu: uma primeira medição independente de throughput e latência dos pesos de 24GB, feita por alguém que não trabalha na NVIDIA. Até que isso exista, o piso de inteligência deste modelo está verificado externamente e o seu teto de velocidade não — e, para uma implantação local, a velocidade é a metade que você sente.