Nemotron 3.5 Super no Ollama: um modelo de visão de 120B que você poderia executar antes de a NVIDIA anunciá-lo

Durante cerca de vinte horas, o caminho local para NVIDIA Nemotron 3.5 Super existiu antes do anúncio de que ele existia. A Ollama publicou o checkpoint em sua biblioteca em 14 de outubro de 2026 na versão v0.40.5, incorporando uma atualização do llama.cpp que adicionou suporte ao Nemotron 3.5 e publicando nove tags de um modelo de visão e linguagem de 120 bilhões de parâmetros — ollama run nemotron-3.5-super e você já o está executando. A publicação do próprio newsroom da NVIDIA sobre os mesmos pesos, publicada com o nome mais completo NVIDIA Nemotron 3.5 Super VL, entrou no ar na tarde seguinte, 15 de outubro, às 15:00 UTC. Os próprios pesos estavam no Hugging Face desde 12 de outubro, em um repositório chamado NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, onde o campo release-date do próprio cartão do modelo já indicava 10/15/2026.

Nada disso é um escândalo. É o formato normal de um lançamento de pesos abertos hoje: o artefato é disponibilizado, os frameworks correm para oferecer suporte a ele, e o marketing corre atrás. Mas isso muda o que faz valer a pena ler a listagem do Ollama. O que chegou em 14 de outubro não é um anúncio de produto com um runtime anexado — é um runtime com um produto anexado, e os dois documentos divergem sobre várias coisas que importam se você está prestes a gastar 90 GB de disco nele.

O que a v0.40.5 realmente entregou

A nota de versão do Ollama é extraordinariamente específica, o que é conveniente. Ela descreve o Nemotron 3.5 Super como um modelo de visão-linguagem para programação, raciocínio, uso de ferramentas e compreensão de documentos, construído sobre uma arquitetura base híbrida de mistura de especialistas Mamba-2/Transformer, com 12B de parâmetros ativos por token de um total de 120B, acompanhado de um codificador de visão C-RADIO. Ele anuncia chamada de ferramentas, um modo de pensamento on/off e contexto de até 1M tokens. As duas linhas que mais importam para quem já executa o Ollama estão enterradas mais abaixo: llama.cpp atualizado (adicionando suporte ao Nemotron 3.5) e MLX.

Essa única linha é o motivo pelo qual o pull funciona. O Ollama encaminha este checkpoint por meio de seu llamacpp runner no formato GGUF — o manifesto do registro diz isso explicitamente — então "Ollama oferece suporte a Nemotron 3.5 Super" e "llama.cpp oferece suporte a Nemotron 3.5 Super" são a mesma frase. Se você estiver em qualquer Ollama anterior ao 0.40.5, você não está nessa situação. O blob de configuração do modelo contém "requires":"0.40.5", então a exigência de versão é imposta, e não apenas recomendada.

A mesma nota de versão também menciona um irmão, o Nemotron 3.5 Bolt, que destila o Super para 74B parâmetros, com 9B ativos e, segundo a nota, foi ajustado para caber em uma GPU NVIDIA de 24 GB com decodificação especulativa por meio de um drafter incluído. Esse é um download diferente e um nível de hardware diferente; mantenha-o separado na sua cabeça, porque a nomenclatura convida à confusão.

Os nove artefatos, e quanto cada um realmente pesa

A página da biblioteca mostra uma escala de tamanhos. O manifesto do registro por trás dela mostra contagens reais de bytes, e os dois não arredondam da mesma forma, então aqui estão os números dos próprios manifestos, em vez dos selos arredondados:

• q4_K_M — 88.419.818.592 bytes, ou 82,3 GiB (a página da biblioteca exibe 80GB–90GB). Nomes de tags :latest, :120b, :120b-a12b e :120b-a12b-q4_K_M todos resolvem para esta mesma camada, então quatro das nove entradas são um único artefato usando quatro nomes.

• q8_0 — 131.601.243.232 bytes, 122,6 GiB, impresso como 133GB.

• bf16 — 247.403.355.232 bytes, 230,4 GiB, exibido como 249GB. Este é o checkpoint de precisão total disfarçado de GGUF, e é a única etiqueta aqui que não chega nem perto de hardware de consumidor.

• MLX nvfp4 — 79,56 GB no total, o menor do conjunto, e o NVFP4 é o formato com que a própria placa da NVIDIA vem como checkpoint de primeira classe, e não uma quantização de pós-venda.

• MLX mxfp8 — 129,60 GB no total, a contraparte MLX com aproximadamente a pegada do q8_0.

• MLX bf16 — 248,92 GB no total, marginalmente maior que o bf16 do GGUF porque o MLX armazena tensores de forma diferente.

• O projetor — todas as tags, sem exceção, carregam uma camada de mídia mmproj-bf16.gguf de 1.733.696.896 bytes. São 1,61 GiB de codificador de visão que acompanham cada download, inclusive o menor deles. O caminho da imagem não é opcional nem um pull separado.

Três das nove entradas — as do MLX — estão marcadas para Apple silicon em vez de CUDA, e cada uma é rotulada simplesmente como "MLX" na página da biblioteca. Se você estiver escolhendo uma tag em um Mac, nvfp4 com 79,56 GB é a que cabe em uma máquina com memória unificada de 96 GB ou 128 GB com folga, e mxfp8 com 129,60 GB não cabe de forma alguma em uma máquina de 128 GB depois de levar em conta o cache KV.

A página da biblioteca e o manifesto divergem quanto ao comprimento do contexto

As tags GGUF anunciam uma janela de contexto de 1M de tokens. As três tags MLX não anunciam nenhuma — a coluna exibe "- context window" onde as outras exibem "1M". Ou o caminho MLX não foi preparado para a configuração de contexto longo, ou a página simplesmente não foi preenchida, mas, de fora, esses cenários são indistinguíveis, e a posição honesta é que a alegação de contexto longo está verificada para as tags GGUF e não verificada para as MLX.

Há uma segunda divergência na mesma direção. O blob de configuração para a tag padrão declara "model_type":"123.6B" enquanto toda a nomenclatura voltada ao usuário diz 120B. Isso não é uma discrepância nos pesos; é uma discrepância em como a contagem de parâmetros está sendo arredondada entre os dois sistemas, e vale a pena saber qual número uma determinada ferramenta está citando para você.

E um terceiro, que é o mais propenso a morder: o blob de parâmetros vem com {"draft_num_predict":3,"temperature":1,"top_p":0.95}. Esses valores de amostragem são as configurações recomendadas do cartão do modelo — para texto. O cartão recomenda um par diferente para trabalho de visão, temperatura 0,6 contra top_p 0,95. Portanto, o padrão do Ollama é ajustado para a metade de texto de um modelo que o Ollama está anunciando como um modelo de visão. Se sua primeira experiência com ele em gráficos ou páginas digitalizadas for decepcionante, esse é o primeiro botão a ajustar, antes de você concluir qualquer coisa sobre o checkpoint.

O campo draft_num_predict: 3 merece uma linha própria. É um parâmetro de decodificação especulativa, e o manifesto não carrega nenhuma camada separada de modelo draft — apenas o GGUF do modelo e o projetor. Portanto, qualquer especulação que o runtime esteja fazendo está usando a cabeça de previsão de múltiplos tokens integrada ao modelo, em vez do drafter LiLiCorr autônomo que a ficha da NVIDIA menciona ser enviado junto aos checkpoints BF16 e NVFP4. Essa é uma escolha de engenharia razoável e também significa que o caminho do Ollama não é a configuração exata que os números de throughput do fornecedor descrevem.

O que o blob de configuração lhe diz silenciosamente

Quatro campos na configuração do manifesto são mais informativos do que o seu tamanho sugere.

• model_family: nemotron_h_moe — a string da família não é simplesmente nemotron. Qualquer coisa na sua stack que altere o comportamento com base na família do modelo para escolher um template de chat ou um tokenizador não corresponderá a um prefixo ingênuo.

• renderizador: nemotron-3.5-super — um renderizador dedicado, portanto o template de chat é genuinamente deste modelo e não um padrão herdado.

• parser: nemotron-3-nano — e aqui o parser é emprestado do irmão menor Nano. O formato de saída do modo de pensamento e de chamada de ferramenta era evidentemente estável o suficiente em toda a família para não precisar de um novo parser. Isso também significa que, se você já implementou o tratamento de chamadas de ferramenta para o Nemotron 3 Nano, ele provavelmente funcionará sem alterações aqui.

• file_type: Q4_K_M — a tag padrão é uma quantização de 4 bits, e é essa a configuração pela qual a maioria das pessoas avaliará este modelo.

A camada de licença é um blob de 2.618 bytes que contém o OpenMDW License Agreement versão 1.1, que é a mesma licença que o card do Hugging Face nomeia como openmdw-1.1. Permissiva, uso comercial permitido, e vale a pena ler antes de assumir que ela é Apache-2.0, porque o ecossistema Ollama ao redor é majoritariamente Apache-2.0.

Benchmarks: um conjunto é do fornecedor, o outro não.

A tabela publicada pela própria NVIDIA é extensa e totalmente auto-relatada. Nela, o modelo obtém 89,52 no GPQA-Diamond, 31,79 no Humanity's Last Exam apenas texto, 76,91 no MMLU-ProX, 88,22 no LiveCodeBench v6, 71,10 no SWE-bench Verified, 67,72 no SWE-bench Multilingual, 51,78 no SWE-bench Pro, 66,70 no Terminal-Bench 2.1, 70,86 no IFBench, 62,82 no MMLongBench-Doc, 78,16 no MathVision e 68,12 no OCRBench v2 em inglês contra 59,15 em chinês. As linhas agênticas são fortes: 69,24 no retalho, 76,50 em companhias aéreas e 73,19 em telecomunicações no tau2-bench. A empresa também afirma que, na tabela de classificação do Artificial Analysis Intelligence Index, o modelo alcança um débito até 5x mais rápido do que outros na sua classe, e que executá-lo no NVIDIA Dynamo permite às organizações servir até 8x mais utilizadores com 85% menos latência. Esses são números do fornecedor, produzidos pelo fornecedor, na infraestrutura do fornecedor — trate-os como uma especificação, não como uma auditoria.

O retrato independente é mais enxuto, mas mais útil, precisamente por ser mais enxuto. Atualmente, a Artificial Analysis coloca este checkpoint num Índice de Inteligência de 26, que descreve como bem acima da mediana de 8 para modelos de pesos abertos de tamanho semelhante — uma diferença real e significativa, se tem vindo a assumir que um modelo aberto de 120B de um fornecedor de hardware fica algures perto do meio do grupo. A mesma página regista 170M tokens de saída consumidos ao executar o Índice, contra uma mediana de 100M, o que interpreta como «um tanto verboso»: este é um modelo de raciocínio com um modo de pensamento estendido, e a verbosidade é uma linha de custo, não uma nota de rodapé. Confirma o contexto de 1,0M, o total de 120B com 12B ativos, entrada de imagem com saída de texto e a licença OpenMDW-1.1.

A única coisa que essa página não consegue lhe dizer é quanto custa por token, porque não há um preço de uma versão hospedada para citar. A própria resposta da Artificial Analysis sobre se o modelo está disponível via API é que se trata de um modelo de pesos abertos que pode ser auto-hospedado. Essa é toda a história econômica em uma frase: seu custo marginal é eletricidade e uma hora de GPU, e seu custo fixo é o download.

O que é preciso para realmente executá-lo

O cartão do modelo recomenda quatro H100s ou dois GB200s para o checkpoint lançado, com uma receita do vLLM especificando paralelismo de tensores de 4 e uma configuração especulativa do método mtp. Essa é a resposta para datacenter e é destinada ao BF16. A pergunta interessante para quem lê uma listagem do Ollama é o outro extremo da escada.

Em q4_K_M, 82,3 GiB de pesos mais 1,61 GiB de projetor colocam o modelo dentro de uma única placa de 96 GB ou de um Mac com 128 GB de memória unificada, com folga para o cache KV que encolhe rápido conforme você aumenta o contexto. Com os 1M tokens anunciados, o cache não vai caber junto com os pesos nessa classe de hardware, diga o que disser o selo — contexto longo em uma única máquina significa abrir mão de concorrência, não liberá-lo de graça. Planeje um contexto de trabalho bem abaixo do teto e trate o número de 1M como o limite da arquitetura, e não da sua implantação.

do MLX nvfp4de 79,56 GB é a escolha pragmática para Apple silicon, e também é o formato que o fornecedor distribui nativamente, o que a torna a menos propensa, entre as tags pequenas, a te surpreender na qualidade.

Onde isto se encaixa se estiver a encaminhar em vez de auto-hospedar

A NVIDIA Nemotron 3.5 Super está disponível por meio dos canais próprios de build e distribuição do fornecedor e por meio do pull do Ollama descrito acima. Ele não está no OrcaRouter — roteamos um pouco mais de 200 modelos e este não é um deles — então, se você precisa especificamente deste checkpoint, o pull local é o seu caminho, e nada neste artigo é uma sugestão de que você pode chamá-lo com a nossa chave.

O verdadeiro propósito da plataforma aqui é a decisão em torno dela. Avaliar um modelo como este tem um custo fixo que nenhuma tabela de benchmark elimina: um download de 90 GB, uma noite de configuração e um conjunto dos teus próprios prompts antes de saberes o que quer que seja. O primeiro passo mais barato é executar a tua carga de trabalho real contra os modelos hospedados que já consegues alcançar — uma API para mais de 200 modelos, com o preço de tabela do fornecedor repassado sem margem por token, para que a redução de preços de um fornecedor esteja ativa do nosso lado no mesmo dia — e deixar que isso te diga se a carga de trabalho é sequer algo que um modelo de raciocínio de 120B melhora. Depois, gasta o download nos casos que sobreviveram.

E se você realmente colocar um modelo aberto recém-lançado em um caminho de produção antes de confiar nele, o failover automático importa mais do que o preço. Um modelo lançado em 14 de outubro teve dois dias da atenção do mundo; colocá-lo atrás de um fallback é como você aproveita seu potencial sem apostar o caminho das requisições nele.

O resumo honesto do que está e do que não está confirmado

Confirmado, diretamente do registro e das notas de versão: as tags, seus digests, suas contagens de bytes, a versão mínima 0.40.5, o formato GGUF por meio do llamacpp runner, o projetor de visão compartilhado, a string da família de modelos, o renderizador, o parser Nano herdado e a licença OpenMDW-1.1. Confirmado pela própria sala de imprensa e pelo cartão do modelo da NVIDIA: a arquitetura, a divisão de parâmetros, a licença, as configurações de amostragem recomendadas, a escala de treinamento — aproximadamente 26 trilhões de tokens entre pré-treinamento e pré-treinamento continuado, depois pós-treinamento em cerca de 3,8 milhões de amostras com aprendizado por reforço em dezenas de ambientes — e a cobertura de idiomas de inglês, espanhol, francês, alemão, italiano e japonês.

Não confirmado: todos os números de benchmark, que são divulgados pelos fornecedores, sendo o Índice de 26 da Artificial Analysis e a verbosidade de 170M tokens as únicas medições independentes neste artigo. Não confirmado: que as tags MLX suportam o comprimento de contexto anunciado, já que a página da biblioteca não afirma isso para elas. Não confirmado: que o caminho de visão vem ajustado de fábrica, porque os padrões de amostragem incluídos são os de texto. E não confirmado: como a quantização de 4 bits altera as pontuações publicadas, que é o número com que a maioria dos leitores de uma listagem do Ollama realmente se importa e o que ninguém publicou.

Se você tem uma placa de 96 GB, um motivo para querer um modelo aberto de visão-linguagem com um backbone genuíno de 120B e nenhuma objeção a uma dependência de primeira semana, esta é a opção mais forte de sua categoria de peso a aparecer neste mês, e o download é trivial. Se você precisa da configuração exata do benchmark da NVIDIA, ou precisa que a visão funcione na primeira tentativa, ou não pode passar uma noite descobrindo qual desses dois documentos é a fonte autoritativa — espere pelas avaliações de quantização e pelos relatos da comunidade. Os pesos têm quatro dias, e o suporte de runtime, dois.