Nemotron 3.5 Bolt vs. Kimi K3: um download de 24 GB contra um leitor de 2,8 trilhões de parâmetros

A resposta curta e honesta é que estes dois modelos não estão competindo pelo mesmo trabalho, e o motivo é mensurável em um único número. O Kimi K3 suporta 1.048.576 tokens de contexto. O NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB suporta 262.144. Se a sua tarefa é "ler todo este corpus e responder em uma única passagem", o checkpoint de 24GB é desqualificado antes que qualquer outra coisa sobre ele importe — e se a sua tarefa é "rodar em uma estação de trabalho sem rede, sem medidor e sem fornecedor no circuito", o Kimi K3 também não entra na conversa. O Kimi K3 é um modelo de mistura de especialistas com 2,8 trilhões de parâmetros publicado pela Moonshot AI em 15 de julho de 2026 sob uma API hospedada proprietária. O Nemotron 3.5 Bolt 74B-A9B 24GB é um arquivo de pesos abertos que gasta 9 bilhões de seus 74 bilhões de parâmetros em qualquer token dado e cabe em 24GB de memória.

O checkpoint Bolt foi publicado no Hugging Face em 7 de outubro de 2026 sem nenhum anúncio associado a ele. A publicação da própria NVIDIA nomeando o modelo — e seu irmão de 4GB, Nemotron 3.5 Bolt E4B — chegou em 15 de outubro, oito dias depois. Essa ordem vale a pena conhecer porque determina o que é verificável: oito dias do registro público consistem em um arquivo para download e um model card, e a prosa que o explica veio depois.

O que cada modelo foi criado para fazer

Kimi K3 é o carro-chefe da Moonshot e seu lançamento mais capaz até o momento: um mixture-of-experts esparso de 2,8 trilhões de parâmetros, com cerca de 104 bilhões de parâmetros ativos por token, criado para programação de longo horizonte e trabalho de conhecimento de ponta a ponta, aceitando texto e imagens e retornando texto. Ele é servido, não distribuído. Não há download, nem build quantizada para rodar localmente, nem uma versão dele pequena o suficiente para um laptop.

Nemotron 3.5 Bolt é a construção oposta. A NVIDIA pegou seu modelo 120B-A12B Nemotron 3.5 Super VL, aplicou uma compressão guiada por roteador que chama de Star Elastic para chegar a 74B-A9B, e então quantizou o resultado para 2,0625 bits por elemento especialista — um formato IQ2_XXS — com destilação ciente de quantização para recuperar a precisão que o preço custa. A espinha dorsal é um híbrido de Mamba-2 e Transformer que o fornecedor chama de LatentMoE, com um codificador de visão C-RADIO v4-H para entrada de imagem e vídeo. Ele roda sob vLLM em peças Ampere, Hopper e Blackwell, e em hardware RTX Spark e DGX Spark por meio do llama.cpp, sob a licença OpenMDW-1.1 que permite uso comercial.

Lendo um corpus longo, com preço

É aqui que a comparação se torna aritmética em vez de preferência. Kimi K3 é roteado no OrcaRouter pelo preço de tabela da Moonshot sem acréscimos: $3,00 por milhão de tokens de entrada, $15,00 por milhão de tokens de saída, e leituras em cache a $0,30. Seu tempo p50 para o primeiro token em nosso catálogo é de 7,02 segundos, com um p95 de 10,00 segundos, e ele transportou 990,6 milhões de tokens de tráfego roteado em nosso catálogo nos últimos sete dias — leitura de contexto longo em escala é uma carga de trabalho real, e não um experimento mental.

Nemotron 3.5 Bolt não tem preço, porque não há nada para precificar. Não há endpoint hospedado para ele, nem API de fornecedor, nem tabela de preços, e o Artificial Analysis lista tanto sua velocidade quanto seu custo por tarefa do Intelligence Index como N/A exatamente por esse motivo. O que ele tem, em vez disso, é um teto de memória que você compra uma vez, e um custo marginal que se resume à conta de luz. Para um pipeline que lê um corpus fixo toda noite, a diferença entre US$ 3 por milhão de tokens de entrada e zero não é um desconto — é um modelo de contabilidade diferente, e o ponto de equilíbrio é uma questão de despesa de capital que sua equipe financeira responde, não este artigo.

A visão não é o critério de desempate que as pessoas imaginam.

Ambos os modelos aceitam imagens. É aí que termina a semelhança.

• Entrada — Kimi K3 aceita texto e imagens; Nemotron 3.5 Bolt aceita texto, imagens e vídeo. Para um agente que assiste a uma gravação de tela ou amostra quadros de um feed de câmera, apenas um deles pode receber o arquivo diretamente.

• Precisão do caminho de visão — o Bolt traz um codificador de visão C-RADIO v4-H criado especificamente para essa finalidade e herda seu comportamento multimodal do cliente Super VL do qual foi comprimido; a compreensão visual do Kimi K3 é documentada como nativa, mas não é a parte do modelo que a Moonshot destaca como principal. A própria tabela da NVIDIA lista uma pontuação de visão no WebArena de 50,86 para o Bolt; considere-a como relatada pelo fornecedor.

• Controle de raciocínio — Kimi K3 não expõe temperature, nem top_p, nem seed, com a profundidade de raciocínio definida apenas por um parâmetro reasoning-effort; o modo de raciocínio do Bolt é um switch de chat-template, enable_thinking true ou false, herdado do mesmo cliente Super VL.

• Especulação — O Bolt vem com um drafter LiLiCorr acionado por meio do DFlash que propõe sete tokens à frente por etapa, que é o mecanismo por trás da alegação da NVIDIA de 84 tokens por segundo no AIPerf SPEED-Bench. Não há alavanca equivalente em um endpoint hospedado; você recebe o que o operador provisionar.

A lacuna medida, e do que ela é feita

Artificial Analysis coloca o Kimi K3 em 43,6 no seu Intelligence Index e o Nemotron 3.5 Bolt em 21. Não há como interpretar isso como próximo. As linhas de suporte do Kimi K3 são fortes nos pontos em que um leitor de contexto longo precisa delas — um AA Coding Index de 76,2, em nono lugar entre 138 modelos avaliados, uma pontuação de 93,5 no GPQA Diamond e um valor de recall de contexto longo de 88,7, que é o número que mostra que a janela de um milhão de tokens é utilizável, e não apenas declarada.

O 21 do Bolt é um tipo diferente de resultado. É a quarta maior pontuação entre 67 modelos em sua classe filtrada por footprint, contra uma mediana de classe de 8, e a Artificial Analysis o descreve como um dos principais modelos de pesos abertos de tamanho semelhante. A maneira correta de encarar os dois números é que um mede o que um laboratório de fronteira consegue fazer sem uma restrição de memória, e o outro mede o que 24 GB conseguem comportar. Vinte e dois pontos de índice são o preço da restrição, não evidência de que o modelo menor foi construído mal.

O que falta do lado do Bolt é qualquer medição independente de sua velocidade. A NVIDIA relata pelo menos 80 tokens por segundo de decodificação como meta de projeto e 84 em seu próprio benchmark, com 83,99 tokens por segundo em uma execução do llama.cpp em um Surface Laptop Ultra com 128GB. Até o momento da redação, nenhum terceiro publicou um valor de throughput ou latência para os pesos de 24GB. A latência do Kimi K3, em contrapartida, é medida e pública — 7,02 segundos p50 até o primeiro token, 10,00 segundos p95 — e esses são os números com os quais planejar, não os do fornecedor.

Onde uma camada de roteamento altera a resposta

O Kimi K3 está no nosso catálogo como kimi/kimi-k3 ao preço de tabela da Moonshot, com 0% de markup adicionado, ficando atrás da mesma chave que mais de 200 outros modelos, com failover automático entre provedores upstream quando um deles apresenta degradação. O Nemotron 3.5 Bolt não está no nosso catálogo — não hospedamos nenhum checkpoint da NVIDIA e não há endpoint Bolt para chamar —, então a questão de roteamento aqui não é qual dos dois nós servimos. É como as duas metades de um pipeline real se comunicam entre si.

O padrão que funciona é um leitor local e um raciocinador hospedado. O Bolt fica no seu hardware e cuida dos passes de alta frequência em que os dados não podem sair do prédio e o volume tornaria a cobrança por token dolorosa. O Kimi K3 lida com as requisições que precisam de uma janela de um milhão de tokens ou raciocínio em escala de fronteira, a $3 e $15 por milhão de tokens. Coloque uma regra de roteamento na frente dos dois e a divisão se torna uma linha de configuração em vez de uma refatoração: uma requisição que excede o orçamento de contexto local vai para o Kimi K3, todo o resto fica na estação de trabalho. A fusão de modelos é a variante que vale a pena conhecer se as chamadas caras são as importantes — vários modelos respondem ao mesmo prompt juntos e você fica com a concordância.

O que assistir

A evidência específica que resolveria este emparelhamento é estreita e iminente. Uma primeira medição independente de throughput e latência sobre os pesos Bolt de 24GB ou confirmaria os 84 tokens por segundo da NVIDIA, ou os reduziria; um preço hospedado publicado para o Bolt transformaria a metade de custo desta comparação em aritmética; e uma segunda medição de recall em contexto longo para o Kimi K3 confirmaria que seus 88,7 são uma propriedade do modelo, e não uma propriedade de um único harness.

Até então, o resumo é mais restrito do que o enquadramento de qualquer um dos fornecedores. O Kimi K3 é o melhor modelo em todos os eixos que um benchmark consegue medir, e é o único dos dois que você pode chamar esta tarde. O Nemotron 3.5 Bolt é o único dos dois que continua funcionando quando a rede não funciona, e o único cujo custo marginal por token é zero. Escolha o segundo para o trabalho que nunca deveria ter sido enviado a lugar nenhum, e o primeiro para o trabalho que precisa de alcance.