Um card de título gerado para NVIDIA Nemotron 3.5 Super VL Base BF16, com a manchete "Nemotron 3.5 Super VL Base BF16 — o checkpoint que a NVIDIA nunca vinculou", com uma linha secundária dizendo "120B no total / 12B ativos · 63 shards BF16 · 248.9 GB · OpenMDW-1.1" e três chips dizendo "Pesos disponíveis: 12 de outubro de 2026", "Anúncio: 15 de outubro de 2026" e "Links do repositório naquele post: 0", com nota de rodapé de que todos os números vêm do próprio model card da NVIDIA e da API do Hugging Face Hub consultada em 16 de outubro de 2026, com o logotipo da OrcaRouter no canto inferior direito.
Engineering & Research

NVIDIA Nemotron 3.5 Super VL Base BF16: o checkpoint de 249 GB que a NVIDIA listou, mas nunca disponibilizou o link

Autor

Alistair Wren

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 é o artefato no N​VIDIA N​emotron 3.5 Super VL, lançamento que a N​VIDIA nunca linkou. A postagem de anúncio da empresa, de 15 de outubro, diz, em uma única cláusula, que "o lançamento inclui checkpoints base, pós-treinados e quantizados em NVFP4 com receitas de treinamento, dados e ambientes de aprendizado por reforço." Todos os links de repositório naquela página apontam para nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4. A string "Base-BF16" não aparece na postagem de forma alguma.

O repositório é real e público. Hugging Face registra seu commit inicial em 2026-10-12T15:31:49Z, seus fragmentos de pesos enviados em 2026-10-13T04:55Z, e o próprio campo de data de lançamento do model card que diz "Hugging Face - 10/15/2026". Não é restrito, não precisa de token para baixar, e pesa exatamente o que a nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 build pós-treinada pesa: 248,9 GB em 63 fragmentos BF16 contra os 248,9 GB em 64 da build pós-treinada, os dois arquivos de índice separados por 16 bytes. Três dias depois que os pesos chegaram, ele havia sido baixado 4 vezes, contra 142 para o repositório pós-treinado de precisão total e 81 para o irmão NVFP4. Esses são os próprios contadores do Hugging Face, lidos em 16 de outubro.

Então isto não é um vazamento nem um rumor. Os pesos são a coisa errada para se errar — eles são simplesmente o artefato menos divulgado em um lançamento que, fora isso, é barulhento, e o cartão do modelo por trás deles se contradiz de um modo que importa se você for o tipo de pessoa que baixaria um checkpoint pré-pós-treinamento de 249 GB. Essa contradição está abaixo.

O que aterrissou, e a frase que o menciona.

Três repositórios principais e um modelo de rascunho foram publicados na mesma janela, todos da própria NVIDIA, todos sob a licença OpenMDW-1.1, nenhum com acesso restrito:

• Base BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16, repositório criado em 2026-10-12T15:31:49Z, pesos em 2026-10-13T04:55Z, README atualizado pela última vez em 2026-10-15T15:22:08Z.

• BF16 pós-treinado — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, criado em 2026-10-12T15:32:06Z, dezessete segundos após o repositório base.

• NVFP4 pós-treinado — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, criado em 2026-10-12T15:32:30Z, e com 75,1 GB no total em vez de 248,9 GB.

• Um drafter NVFP4 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, criado ainda um dia antes, em 2026-10-11T20:20:59Z.

O mapeamento entre esses repositórios e o texto da N​VIDIA é onde as coisas ficam irregulares, e vale a pena verificá-lo em vez de presumir. As âncoras de implantação do anúncio apontam todas para a build NVFP4. A nota de abertura do próprio card do modelo base aponta para os outros dois — "Procurando um modelo pós-treinado? Veja a versão BF16 para personalização ou a versão NVFP4 para implantação otimizada" — então o repositório base dirá onde ir em vez disso, já na primeira linha. O inverso não se verifica. O card BF16 pós-treinado não contém nenhum link para o repositório base em lugar algum, e o card NVFP4 também não. O checkpoint base é o único artefato do lançamento para o qual a própria documentação da N​VIDIA nunca direciona você; você o encontra lendo a cláusula de nove palavras do anúncio e depois navegando pela listagem de arquivos da organização, que foi como ele foi encontrado aqui. Nada no texto da N​VIDIA explica por que um checkpoint base é publicado com os mesmos 249 GB do modelo que na verdade é pós-treinado, nem o que você deve fazer com ele que o pós-treinado não consegue fazer.

Essa ausência é a história. Um lançamento de pesos abertos em que o fornecedor disponibiliza links para dois dos três checkpoints e descreve o terceiro em nove palavras não está escondendo nada — os pesos estão logo ali —, mas significa que a documentação de que você precisa não está no anúncio. Está no repositório.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16, showing the repository name, the tags image-text-to-text, safetensors, nemotron_h_omni, custom_code and conversational, the note pointing readers to the post-trained BF16 and NVFP4 releases, the Description naming it the base vision-language checkpoint of the Nemotron 3.5 Super family and stating it provides a starting point for continued training and domain adaptation, the Model Overview heading with Model Developer NVIDIA Corporation, the paragraph describing a Mamba-2 hybrid with a C-RADIO vision encoder, 120B total and 12B active parameters and context lengths up to 1M tokens, the sentence that the model is ready for commercial or non-commercial use, a 'What is Nemotron?' heading, and the start of the Benchmarks table showing MMLU 84.14, MMLU-Pro 76.25, AGIEval-En 75.65, SuperGPQA 47.65, GPQA Diamond 66.16, GSM8K 91.74 and Minerva MATH 87.66.

O que "base" significa nesta versão

Os dois cartões de modelo respondem a isso, e a diferença entre eles é uma leitura clara do que o pós-treinamento agregou aqui.

O cartão base documenta três estágios de treinamento. O Estágio 1 constrói a espinha dorsal de linguagem sobre o N​emotron 3 Super Base e treina uma cabeça MTP compartilhada por 100B tokens contra uma espinha dorsal congelada, depois destila por 1T tokens a partir do N​emotron 3 Ultra Base. O Estágio 2 consiste em 100B tokens de pré-treinamento continuado Indic, uma extensão de 35B tokens para contexto de 1M, 67B tokens de treinamento intermediário de engenharia de software em contexto de 256K, e um estágio de recuperação de contexto longo de 9B tokens. O Estágio 3 acopla o codificador de visão C-RADIO e o conector visão-linguagem.

O card pós-treinado documenta seis, e as três que faltam ao card base são as três que tornam um modelo utilizável: Estágio 4, ajuste fino supervisionado em visão, raciocínio, código, ferramentas, chat, segurança e dados de contexto longo, usando sequências empacotadas de até 524.288 tokens; Estágio 5, aprendizado por reforço com recompensas verificáveis, mais RLHF, mais destilação on-policy com múltiplos professores; e Estágio 6, reforçando a cabeça MTP contra o backbone pós-treinado congelado para que a decodificação especulativa realmente compense.

O próprio cartão base diz isso, na seção de Inferência: "O modelo Base destina-se a ser um ponto de partida para treinamento adicional. Para aplicações de chat, raciocínio e chamada de ferramentas, use a versão pós-treinada BF16 ou NVFP4 e suas instruções de implantação." Seu caso de uso declarado é "desenvolvedores e pesquisadores que criam modelos personalizados de visão-linguagem por meio de pré-treinamento contínuo, ajuste fino supervisionado, aprendizado por reforço e destilação."

Esse é um aviso de isenção de responsabilidade excepcionalmente direto, e é a leitura correta do artefato. O que é distribuído como "base" aqui não é um modelo de chat mais fraco. É o substrato sobre o qual os Estágios 4 a 6 foram executados, publicado junto com eles para que outra pessoa possa executar um Estágio 4 a 6 diferente — com seus próprios dados, sob seus próprios termos de licença, sem refazer um pré-treinamento de 20 trilhões de tokens.

A alegação de 1M de tokens que a configuração não sustenta

Esta é a discrepância que vale os 249 GB da sua atenção.

O cartão do modelo base afirma, em sua Descrição, que o modelo "suporta comprimentos de contexto de até 1M de tokens", e o repete na seção Design do Modelo: "O modelo suporta até 1M de tokens de contexto." A metodologia de treinamento respalda a intenção — O Estágio 2 inclui explicitamente "uma extensão de 35B tokens para 1M de contexto, seguida por um estágio de recuperação de contexto longo de 9B tokens."

O config.json fornecido diz algo diferente. Seu max_position_embeddings é 262.144 — 256K, não 1M. Não há rope_scaling bloco nem original_max_position_embeddings campo, então o esquema de posição também não declara uma extensão. O config do repositório pós-treinado, em contrapartida, declara max_position_embeddings de 1.048.576. Dois checkpoints irmãos, mesma string de arquitetura, mesmo layout de camadas e uma diferença de um fator de quatro no limite de posição que a prosa do card base não menciona.

Leia os três fatos em conjunto, e a conclusão mais defensável não é que o modelo base seja de contexto curto. É que o repositório base traz um limite declarado conservador e espera que você o altere. A extensão de 1M foi treinada. A configuração publicada não a expõe. Se o seu plano de pré-treinamento continuado assume um comprimento de sequência de 1M tokens pronto para uso, essa suposição vem do card, não do arquivo que o runtime realmente lerá — e a correção é uma edição de configuração que você precisa saber fazer.

A generated three-card graphic titled 'The 1M-token claim the shipped config does not carry', with the kicker 'Same architecture string, same layer layout, a factor of four apart'. The first card, headed 'Base model card says' and tinted amber, reads '1M tokens of context' with the note that it is stated in the Description and repeated in Model Design. The second card, headed 'Base config.json declares' and tinted blue, reads '262,144 max_position_embeddings' with the note that there is no rope_scaling block and no original_max_position_embeddings. The third card reads '1,048,576 max_position_embeddings' for the post-trained sibling repository, same family, same release week. The footer states that all three figures are as published by NVIDIA, from the base model card and each repository's shipped config.json read October 16, 2026, with no independent reproduction, and the OrcaRouter logo sits bottom-right.

Vale destacar pelo mesmo motivo: a tabela Resumo do Modelo do cartão base simplesmente não existe. O cartão pós-treinado traz uma — parâmetros totais, arquitetura, precisão, comprimento de contexto, alvo de implantação, decodificação especulativa, modo de raciocínio, amostragem recomendada, melhor para, licença. O cartão base vai direto de Descrição para Licença, depois para uma tabela de benchmark. Não há nenhuma linha de amostragem recomendada em lugar algum, e não há linha de implantação, então nada no cartão base indica de que hardware ele precisa.

A arquitetura, extraída da configuração fornecida

Como a descrição do fornecedor sobre a arquitetura base é um parágrafo e a forma real está no arquivo, aqui está o que o arquivo diz. Tudo isso vem em primeira mão de config.json no repositório base, não de qualquer resumo.

• Profundidade e composição — 88 blocos no backbone de linguagem. 40 são camadas Mamba-2, 40 são camadas de mistura de especialistas e 8 são camadas de atenção completa, nos índices 7, 16, 25, 36, 47, 58, 69 e 78. Um bloco de atenção aproximadamente a cada nove camadas constitui todo o mecanismo de contexto longo.

• MoE — 512 especialistas roteados por camada MoE, 22 selecionados por token, um especialista compartilhado, um tamanho latente de 1024, e um tamanho intermediário do especialista compartilhado de 5376 contra 2688 para os especialistas roteados. Essa é a aritmética por trás do título "120B totais, 12B ativos".

• Atenção — 32 cabeças de consulta contra 2 cabeças de chave-valor na dimensão de cabeça 128, portanto atenção de consulta agrupada com uma proporção de 16:1. Tamanho oculto 4096.

• MTP — uma camada de previsão do próximo token, ela própria composta por um bloco de atenção e um bloco de MoE, no estilo da cabeça de previsão multi-token da D​eepSeek. Um passo de previsão, não vários.

• Vision — uma torre C-RADIO ViT-H: 32 camadas, tamanho oculto de 1280, 16 cabeças, tamanho de patch 16, 7 tokens de registro, 3 tokens de classe, um tamanho máximo de imagem de 2048 e um orçamento de patches entre 1024 e 13312. O conector projeta para 20.480, depois uma taxa de redução de 0,5 e um tamanho de imagem forçado de 512 reduzem novamente a contagem de tokens.

• Vídeo — um tamanho de patch temporal de 2 e uma taxa de poda declarada de 0,7.

• Duas peculiaridades — a configuração declara um <audio> token de contexto enquanto seu sound_config é nulo, então a infraestrutura para áudio existe nesta arquitetura e este checkpoint não carrega nada disso. E tie_word_embeddings é falso, o que é padrão para um modelo deste tamanho e vale a pena saber se você planeja redimensionar um vocabulário.

Para dar uma ideia de escala: os metadados safetensors do próprio repositório somam 124,453,395,974 parâmetros, contados byte a byte de tensor, contra o número de manchete da NVIDIA de 120B no total / 12B ativos. Os dois números são reportados em bases diferentes — o número do fornecedor é a aritmética roteada mais compartilhada do modelo de linguagem, e o número do arquivo é tudo o que está armazenado no repositório, incluindo a torre de visão e a cabeça MTP. Não trate a diferença como uma discrepância; orce com base no arquivo.

O que a tabela de benchmark realmente mede

A placa base publica 24 linhas de benchmark e, para crédito da NVIDIA, uma coluna que diz o que cada uma é:

• MMLU 84,14 correspondência exata · MMLU-Pro 76,25 · AGIEval-En 75,65 CoT · SuperGPQA 47,65 CoT · GPQA Diamond 66,16 com correspondência exata em CoT de 5-shot

• GSM8K 91,74 com CoT de 8 exemplos · Minerva MATH 87,66 · MATH-500 81,56 pass@1 amostrado n=32 · HumanEval 81,31 EvalPlus sanitizado · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete e 49,39 instruct

• ARC-Challenge 95.99 · HellaSwag 88.96 · TruthfulQA MC2 71.18 · WinoGrande 79.08 · PIQA 85.09 · CommonsenseQA 85.26 · OpenBookQA 48.80 · SocialIQA 49.03 · RACE 91.39

• Global MMLU 86,56 em média em 8 idiomas · MGSM 87,53 com CoT nativo de 8 shots em 6 idiomas

Duas coisas naquela tabela são fáceis de passar despercebidas, e ambas importam.

Primeiro, a própria frase de enquadramento do cartão diz que os resultados "avaliam o backbone base somente de texto do Nemotron 3.5 Super, antes do treinamento de visão-linguagem." Independentemente do que mais isso signifique, significa que esses números não são um quadro de avaliação multimodal — não há benchmark de OCR, nem linha de compreensão de documentos, nem linha de vídeo em lugar algum no cartão base, ainda que entradas de vídeo e documento sejam descritas duas seções antes. Se o seu motivo para querer o checkpoint base é a sua torre de visão, o cartão não lhe dá nada empírico com que planejar.

Segundo, a tabela não tem colunas de linha de base. A tabela do cartão pós-treinado se estende por sete colunas — N​emotron 3.5 Super GA contra Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, N​emotron 3 Ultra, Inkling-Small e GLM-5.3-Flash. O cartão base tem exatamente uma coluna. E a mistura do que foi executado é reveladora: o cartão pós-treinado abandona totalmente o MMLU em favor do MMLU-ProX, enquanto o cartão base executa tanto o MMLU quanto o MMLU-Pro e nem o MMLU-ProX nem as suítes agênticas e de nível de harness nas quais o cartão pós-treinado se apoia. Você não consegue responder "esta base é melhor do que aquela base" a partir do cartão. Você teria que executar as duas.

Todos os números acima são da N​VIDIA, produzidos pelo próprio harness NeMo Gym da N​VIDIA — o card do modelo pós-treinado afirma isso explicitamente, e o card base não publica nenhuma nota sobre o harness. Nada em nenhuma das duas tabelas foi reproduzido de forma independente.

Base versus pós-treinado, no único benchmark que compartilham

As duas placas não compartilham uma tabela de benchmark, mas compartilham exatamente uma linha que você pode colocar lado a lado, e é justamente a que mais importa.

• GPQA Diamond — 66,16 no card base, em correspondência exata de cadeia de pensamento com 5 shots. 89,52 no card pós-treinado. Uma diferença de 23,36 pontos, dos dois documentos da própria NVIDIA, com o valor base explicitamente rotulado como o backbone somente texto.

A generated six-row comparison card titled 'Nemotron 3.5 Super VL Base BF16 vs Post-trained BF16', with the kicker 'Two cards from the same release, read side by side', contrasting the two model cards on GPQA Diamond (66.16 for the base, labelled text-only backbone 5-shot chain-of-thought, against 89.52), context declared in the shipped config.json (262,144 against 1,048,576), training stages documented on the card (3 against 6), baseline columns in the benchmark table (1 against 7), MMLU-family rows published (MMLU 84.14 and MMLU-Pro 76.25 against MMLU-ProX 76.91), and the model summary table (not published against published), footnoted that all figures are vendor-reported from NVIDIA's own two model cards and each repository's shipped config.json read October 16, 2026 with nothing independently reproduced, and the OrcaRouter logo bottom-right.

Esse é o título honesto de quanto valem os Estágios 4 a 6 em raciocínio científico de nível de pós-graduação: o pós-treinamento não é uma etapa de polimento deste modelo; representa aproximadamente outra metade da capacidade. Ele também indica a direção do trade-off. Se o seu plano é fazer o pós-treinamento do checkpoint base por conta própria, você começa 23 pontos atrás do modelo que a NVIDIA está vendendo e aposta que seus dados e seu sinal de recompensa fecharão essa lacuna no seu domínio — que é exatamente a aposta que os próprios números de clientes da NVIDIA descrevem: a Scale AI reportando uma redução de 40x no custo de inferência para processamento de crédito de fornecedores, a Ramp esperando até 50% mais throughput e latência 10x menor para extração de recibos para JSON. Esses são resultados declarados por fornecedores e clientes, sem medição independente, e são a única evidência publicada de que é possível fechar a lacuna.

Observe a armadilha ao ler os dois cartões em conjunto. O "MMLU-Pro" do cartão base, em 76,25, e o "MMLU-ProX" do cartão pós-treinado, em 76,91, parecem uma diferença de 0,66 ponto e não são comparáveis — são benchmarks diferentes, um deles com um método de extração TigerLab declarado. O "MMLU" do cartão base, em 84,14, não tem nenhum equivalente no cartão pós-treinado. Se você quer um delta no mesmo benchmark, o GPQA Diamond é o que você tem, e o LiveCodeBench é o que você não tem: o cartão base relata CodeGen em 47,61, enquanto o cartão pós-treinado relata LiveCodeBench v6 em 88,22, que é uma versão diferente da mesma família de benchmarks e não um delta.

O que 249 GB compra, e o que não

O download em si é um comando, e é o único comando em todo o cartão do modelo base:

• hf download nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16

Esse é todo o Quick Start. O card base contém um bloco de código; o card pós-treinado contém vinte e dois. Não há vllm serve, nem lançamento do SGLang, nem orientação de tensor-parallel, nem --max-num-seqs, nem flag de reasoning-parser, nem configuração de MTP para decodificação especulativa, e nenhum exemplo de cliente de API. O card pós-treinado traz tudo isso, incluindo uma receita 4×H100 com --enable-mamba-shared-prefix-checkpoint e uma receita 2×GB200 em TP2.

• Motores de runtime — o card base nomeia PyTorch, Megatron-LM e NeMo, e sua seção de Inferência nomeia apenas PyTorch. O card pós-treinado nomeia vLLM e SGLang. De um lado estão nomes de frameworks de treinamento e, do outro, nomes de runtimes de serviço, e essa divisão é deliberada, não acidental.

• Hardware de teste — Hopper H100 e H200, Grace Blackwell GB200 e GB300, Blackwell B200 e B300. A placa pós-treinada se restringe a 4×H100 ou 2×GB200 para implantação.

• Disco — 248,9 GB em 63 shards, o mesmo que a build pós-treinada de precisão total. O irmão NVFP4 tem 75,1 GB. Se você está baixando a base para inspecioná-la ou adaptá-la em vez de executá-la, você está pagando 3,3 vezes o download do NVFP4 pelo privilégio de não obter nenhuma receita de serving.

O que você realmente recebe que é genuinamente utilizável: o repositório inclui um chat_template.jinja completo de 12.513 bytes, e ele contém o switch enable_thinking, incluindo a variante de esforço médio. Ele também inclui um generation_config.json com temperature 1.0, top_p 0.95 e do_sample true. Comparar esse template com o pós-treinado resulta em uma diferença de 414 bytes, toda ela referente ao tratamento de espaços em branco em torno dos placeholders de imagem e vídeo — fora isso, os dois templates são o mesmo arquivo.

Portanto, a infraestrutura para conversar com o checkpoint base como um modelo de chat está presente e é quase idêntica à do modelo de chat distribuído. O que está ausente é qualquer declaração de que você deveria fazer isso. Não há linha de amostragem recomendada no cartão do modelo base, nem linha de modo de raciocínio, e nenhum benchmark para isso na configuração de chat. Você pode servi-lo como um modelo de chat em cerca de dez minutos. Se a saída merece sair de um ambiente de teste é uma questão diferente, e a resposta do cartão é que não merece.

A divulgação do corpus sobre a qual ninguém está falando

Aqui está a parte da versão base que é possivelmente mais útil do que os pesos, e que quase não recebeu atenção porque fica em tabelas num repositório que nunca foi vinculado.

O cartão base publica em detalhes o corpus de treinamento que o cartão pós-treinado não traz: um corpus de base com mais de 20 trilhões de tokens coletados entre 2013 e dezembro de 2025, discriminado por fonte — N​emotron-CC-v2 e v2.1 com 9,1T, N​emotron-CC-Code-v1 com 427,9B, os conjuntos N​emotron-Pretraining-Code com 1,7T no total, N​emotron-CC-Math-v1 com 133,3B, os conjuntos sintéticos especializados e de SFT com 660B, e um conjunto jurídico com 4,3B. Inglês, 19 outros idiomas falados, 43 linguagens de programação.

Depois, duas tabelas que a maioria dos lançamentos de pesos abertos simplesmente não publica. Uma lista conjuntos de dados privados e não acessíveis publicamente pertencentes a terceiros, e nomeia os modelos que produziram seus rótulos — Qwen3.5-122B-A10B em um amplo conjunto de tarefas de re-rotulagem de OCR e de resposta a perguntas visuais, DeepSeek-OCR em um subconjunto filtrado de OCR em chinês, Qwen3.5 em um subconjunto verificado como correto, Gemini 3 e GPT-5 em dados de RL para busca. A outra lista os conjuntos de dados privados da própria NVIDIA e, novamente, nomeia os geradores: Kimi K3 para dados de SFT de cadeia de pensamento matemático, DeepSeek-V4-Pro para OCR de programação competitiva, gpt-oss-120b para RL de saída estruturada, GLM-5.2 para refinamento, MiniMax-M2 para caminhadas em grafos de busca e uma longa cauda de outros.

Depois, duas tabelas que a maioria dos lançamentos de pesos abertos simplesmente não publica. Uma delas lista conjuntos de dados privados, não acessíveis publicamente, pertencentes a terceiros, e nomeia os modelos que produziram suas rotulagens — Qwen3.5-122B-A10B em uma ampla variedade de tarefas de rotulagem de OCR e perguntas e respostas visuais, DeepSeek-OCR em um subconjunto filtrado de OCR em chinês, Qwen3.5 em um subconjunto verificado como correto, Gemini 3 e GPT-5 em dados de RL para busca. A outra lista os conjuntos de dados privados da própria NVIDIA e, novamente, nomeia os geradores: Kimi K3 para dados de SFT de cadeia de pensamento em matemática, DeepSeek-V4-Pro para OCR de programação competitiva, gpt-oss-120b para RL de saída estruturada, GLM-5.2 para refinamento, MiniMax-M2 para percursos em grafos de busca, e uma longa cauda de outros. As tabelas emparelhadas são um lembrete de como a indústria realmente funciona — o sinal de treinamento de um modelo de fronteira inclui rotineiramente saídas dos modelos de concorrentes, e a NVIDIA é um dos pouquíssimos laboratórios dispostos a dizer quais e para quê.

O repositório também inclui um Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf, adicionado a 15 de outubro, que constitui a divulgação de conteúdo de treino orientada para a UE. A mistura de mid-training é divulgada com a mesma granularidade, e uma das suas linhas é diretamente relevante se pretender fazer fine-tuning para trabalho de software: a fase de engenharia de software de 67B tokens é 20% repositórios completos, 41% pares de issues e pull requests, 3% diffs de commits, 1% logs de build e CI, 10% traços de agentes, 20% replay de pré-treino e 5% dados de contexto longo, e as suas fontes são descontaminadas em relação a repositórios do SWE-bench e do Terminal-Bench. Essa declaração de descontaminação é a linha do cartão que lhe diz quanto vale uma pontuação em qualquer um dos benchmarks.

A licença, e para quem se destina o checkpoint base

OpenMDW-1.1, a mesma licença das versões pós-treinadas, com o cartão do modelo declarando claramente: "Este modelo está pronto para uso comercial ou não comercial." O repositório não tem acesso restrito e nenhum token do Hugging Face é necessário para o download, embora as próprias receitas de contêiner da NVIDIA em outras partes da família presumam que um seja necessário.

Coloque a licença ao lado do caso de uso e o público-alvo pretendido fica inequívoco. Ninguém baixa um checkpoint pré-pós-treinamento de 249 GB para economizar na inferência — a build NVFP4 é 3,3 vezes menor, mais rápida e 23 pontos melhor no GPQA Diamond. O checkpoint base é para uma equipe que pretende assumir a etapa de pós-treinamento: um domínio diferente, um sinal de recompensa diferente ou uma política de dados diferente da que a NVIDIA executou. Sob a OpenMDW-1.1, com uso comercial permitido e pesos de acesso livre, isso é algo legítimo sobre o que construir um produto, e é exatamente por isso que a documentação ausente tem um custo.

E vale a pena separar os dois tipos de leitor aqui. Se a sua pergunta é "o que devo chamar esta semana para análise de documentos ou compreensão de vídeo", o checkpoint base não é a sua resposta e nunca foi; o modelo pós-treinado é, e a questão em aberto aí é a verificação de benchmark, e não a disponibilidade. Se a sua pergunta é "posso obter um backbone vision-language híbrido Mamba-MoE de classe 120B com uma licença permissiva como ponto de partida para o meu próprio treino", então este repositório é a resposta e tem estado sem link desde 12 de outubro.

Se você fosse avaliá-lo

O erro caro com um checkpoint como este é tratar o download como o teste. Não é: 249 GB, 63 shards e uma edição de configuração antes da primeira passagem direta não lhe dizem nada sobre se a torre de visão se transfere para a sua classe de documentos.

O teste barato é estabelecer a questão da capacidade primeiro em um modelo servido e só então gastar o disco. Um gateway de roteamento é útil para isso e para nada mais nesta decisão — uma única chave e um único endpoint para uns duzentos modelos ao preço de tabela do provedor, com 0% de markup significa que você pode colocar o build pós-treinado do Nemotron 3.5 Super VL contra qualquer modelo de visão que você já esteja usando, nas suas próprias imagens, em uma tarde e pelo custo dos tokens. Failover automático entre provedores importa aqui por um motivo específico: uma execução de avaliação que morre na requisição 4.000 de 5.000 custa a execução inteira, e um gateway que tenta novamente em outro lugar diante de um erro do provedor é a diferença entre uma tarde e duas.

Para ser direto sobre a única coisa que, de outro modo, seria ambígua: o NVIDIA Nemotron 3.5 Super VL não está no nosso catálogo. Não servimos este modelo hoje, e o checkpoint base especificamente não é algo que um endpoint hospedado tenha qualquer probabilidade de disponibilizar, porque checkpoints base não são produtos de inferência. O que um gateway lhe dá é a metade barata do experimento — a comparação que lhe diz se vale a pena pagar os 249 GB.

O que ainda não foi estabelecido

Quatro coisas, enunciadas como lacunas em vez de riscos.

• Qual limite de contexto é real. O cartão diz 1M, a configuração distribuída declara 262.144 e a descrição de treinamento diz que uma extensão de 1M foi executada. Não há declaração publicada que resolva as três. Qualquer pessoa que planeje uma execução de pré-treinamento contínuo de contexto longo deve tratar o valor da configuração como padrão e verificar no seu runtime, em vez do cartão.

• O que a torre de visão é capaz de fazer. O cartão base não publica nenhuma avaliação multimodal de qualquer tipo. Sem OCR, sem documento, sem gráfico, sem linha de vídeo — para o único checkpoint da família cujo propósito inteiro é ser ajustado nessas modalidades. Esse é o maior buraco nas evidências publicadas.

• Como a base se compara a qualquer coisa. Tabela de benchmark de coluna única, sem baselines, sem nota de harness. O valor 66,16 do GPQA Diamond é, em princípio, reproduzível por meio do NeMo Gym e não foi reproduzido por ninguém fora da N​VIDIA.

• Se a base inclui em algum lugar as receitas de implantação de 1M. O card pós-treinado traz comandos de lançamento de 4×H100 e 2×GB200 para a janela completa. O card base traz apenas um hf download. Não está claro se isso é uma lacuna na documentação ou uma declaração de que servir a base com 1M não é algo que a N​VIDIA pretende suportar.

Nada disso torna o lançamento menos interessante. Isso faz do checkpoint base o artefato menos documentado da família e, para um tipo restrito e específico de equipe, o mais útil dela — a diferença está em saber se o seu próximo passo é uma chamada de API ou uma execução de treinamento.

Para um modelo cujos modos de falha ainda não estão documentados, a contraparte útil é o registro do que já deu errado em outros lugares: os incidentes de IA documentados e as falhas de agentes em torno de modelos desta classe são coletados em o OrcaRouter AI Incident Archive, onde cada entrada carrega suas próprias fontes, gravidade, grau de confiança e indicador de disputa.