
NVIDIA Nemotron 3.5 Super VL Base BF16: o checkpoint de 249 GB que a NVIDIA listou, mas nunca disponibilizou o link
- GoogleNOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 por 1M de tokens · 247 tok/s
- AnthropicNOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 por 1M de tokens · 104 tok/s
- orcaNOVOOrca: OrcaC2 1.02026-11-0722 tok/s
- OrcaNOVOOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 por 1M de tokens · 138 tok/s
- OrcaNOVOOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 por 1M de tokens · 413 tok/s
- OrcaNOVOOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 por 1M de tokens · 43 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 por 1M de tokens · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 por 1M de tokens · 57 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 98 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 40 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligência
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 por 1M de tokens · 165 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligência
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 por 1M de tokens · 106 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Inteligência
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Inteligência
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 por 1M de tokens · 69 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Inteligência
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Inteligência
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 por 1M de tokens · 414 tok/s
nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 é o artefato no NVIDIA Nemotron 3.5 Super VL, lançamento que a NVIDIA nunca linkou. A postagem de anúncio da empresa, de 15 de outubro, diz, em uma única cláusula, que "o lançamento inclui checkpoints base, pós-treinados e quantizados em NVFP4 com receitas de treinamento, dados e ambientes de aprendizado por reforço." Todos os links de repositório naquela página apontam para nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4. A string "Base-BF16" não aparece na postagem de forma alguma.
O repositório é real e público. Hugging Face registra seu commit inicial em 2026-10-12T15:31:49Z, seus fragmentos de pesos enviados em 2026-10-13T04:55Z, e o próprio campo de data de lançamento do model card que diz "Hugging Face - 10/15/2026". Não é restrito, não precisa de token para baixar, e pesa exatamente o que a nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 build pós-treinada pesa: 248,9 GB em 63 fragmentos BF16 contra os 248,9 GB em 64 da build pós-treinada, os dois arquivos de índice separados por 16 bytes. Três dias depois que os pesos chegaram, ele havia sido baixado 4 vezes, contra 142 para o repositório pós-treinado de precisão total e 81 para o irmão NVFP4. Esses são os próprios contadores do Hugging Face, lidos em 16 de outubro.
Então isto não é um vazamento nem um rumor. Os pesos são a coisa errada para se errar — eles são simplesmente o artefato menos divulgado em um lançamento que, fora isso, é barulhento, e o cartão do modelo por trás deles se contradiz de um modo que importa se você for o tipo de pessoa que baixaria um checkpoint pré-pós-treinamento de 249 GB. Essa contradição está abaixo.
O que aterrissou, e a frase que o menciona.
Três repositórios principais e um modelo de rascunho foram publicados na mesma janela, todos da própria NVIDIA, todos sob a licença OpenMDW-1.1, nenhum com acesso restrito:
• Base BF16 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16, repositório criado em 2026-10-12T15:31:49Z, pesos em 2026-10-13T04:55Z, README atualizado pela última vez em 2026-10-15T15:22:08Z.
• BF16 pós-treinado — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, criado em 2026-10-12T15:32:06Z, dezessete segundos após o repositório base.
• NVFP4 pós-treinado — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4, criado em 2026-10-12T15:32:30Z, e com 75,1 GB no total em vez de 248,9 GB.
• Um drafter NVFP4 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, criado ainda um dia antes, em 2026-10-11T20:20:59Z.
O mapeamento entre esses repositórios e o texto da NVIDIA é onde as coisas ficam irregulares, e vale a pena verificá-lo em vez de presumir. As âncoras de implantação do anúncio apontam todas para a build NVFP4. A nota de abertura do próprio card do modelo base aponta para os outros dois — "Procurando um modelo pós-treinado? Veja a versão BF16 para personalização ou a versão NVFP4 para implantação otimizada" — então o repositório base dirá onde ir em vez disso, já na primeira linha. O inverso não se verifica. O card BF16 pós-treinado não contém nenhum link para o repositório base em lugar algum, e o card NVFP4 também não. O checkpoint base é o único artefato do lançamento para o qual a própria documentação da NVIDIA nunca direciona você; você o encontra lendo a cláusula de nove palavras do anúncio e depois navegando pela listagem de arquivos da organização, que foi como ele foi encontrado aqui. Nada no texto da NVIDIA explica por que um checkpoint base é publicado com os mesmos 249 GB do modelo que na verdade é pós-treinado, nem o que você deve fazer com ele que o pós-treinado não consegue fazer.
Essa ausência é a história. Um lançamento de pesos abertos em que o fornecedor disponibiliza links para dois dos três checkpoints e descreve o terceiro em nove palavras não está escondendo nada — os pesos estão logo ali —, mas significa que a documentação de que você precisa não está no anúncio. Está no repositório.

O que "base" significa nesta versão
Os dois cartões de modelo respondem a isso, e a diferença entre eles é uma leitura clara do que o pós-treinamento agregou aqui.
O cartão base documenta três estágios de treinamento. O Estágio 1 constrói a espinha dorsal de linguagem sobre o Nemotron 3 Super Base e treina uma cabeça MTP compartilhada por 100B tokens contra uma espinha dorsal congelada, depois destila por 1T tokens a partir do Nemotron 3 Ultra Base. O Estágio 2 consiste em 100B tokens de pré-treinamento continuado Indic, uma extensão de 35B tokens para contexto de 1M, 67B tokens de treinamento intermediário de engenharia de software em contexto de 256K, e um estágio de recuperação de contexto longo de 9B tokens. O Estágio 3 acopla o codificador de visão C-RADIO e o conector visão-linguagem.
O card pós-treinado documenta seis, e as três que faltam ao card base são as três que tornam um modelo utilizável: Estágio 4, ajuste fino supervisionado em visão, raciocínio, código, ferramentas, chat, segurança e dados de contexto longo, usando sequências empacotadas de até 524.288 tokens; Estágio 5, aprendizado por reforço com recompensas verificáveis, mais RLHF, mais destilação on-policy com múltiplos professores; e Estágio 6, reforçando a cabeça MTP contra o backbone pós-treinado congelado para que a decodificação especulativa realmente compense.
O próprio cartão base diz isso, na seção de Inferência: "O modelo Base destina-se a ser um ponto de partida para treinamento adicional. Para aplicações de chat, raciocínio e chamada de ferramentas, use a versão pós-treinada BF16 ou NVFP4 e suas instruções de implantação." Seu caso de uso declarado é "desenvolvedores e pesquisadores que criam modelos personalizados de visão-linguagem por meio de pré-treinamento contínuo, ajuste fino supervisionado, aprendizado por reforço e destilação."
Esse é um aviso de isenção de responsabilidade excepcionalmente direto, e é a leitura correta do artefato. O que é distribuído como "base" aqui não é um modelo de chat mais fraco. É o substrato sobre o qual os Estágios 4 a 6 foram executados, publicado junto com eles para que outra pessoa possa executar um Estágio 4 a 6 diferente — com seus próprios dados, sob seus próprios termos de licença, sem refazer um pré-treinamento de 20 trilhões de tokens.
A alegação de 1M de tokens que a configuração não sustenta
Esta é a discrepância que vale os 249 GB da sua atenção.
O cartão do modelo base afirma, em sua Descrição, que o modelo "suporta comprimentos de contexto de até 1M de tokens", e o repete na seção Design do Modelo: "O modelo suporta até 1M de tokens de contexto." A metodologia de treinamento respalda a intenção — O Estágio 2 inclui explicitamente "uma extensão de 35B tokens para 1M de contexto, seguida por um estágio de recuperação de contexto longo de 9B tokens."
O config.json fornecido diz algo diferente. Seu max_position_embeddings é 262.144 — 256K, não 1M. Não há rope_scaling bloco nem original_max_position_embeddings campo, então o esquema de posição também não declara uma extensão. O config do repositório pós-treinado, em contrapartida, declara max_position_embeddings de 1.048.576. Dois checkpoints irmãos, mesma string de arquitetura, mesmo layout de camadas e uma diferença de um fator de quatro no limite de posição que a prosa do card base não menciona.
Leia os três fatos em conjunto, e a conclusão mais defensável não é que o modelo base seja de contexto curto. É que o repositório base traz um limite declarado conservador e espera que você o altere. A extensão de 1M foi treinada. A configuração publicada não a expõe. Se o seu plano de pré-treinamento continuado assume um comprimento de sequência de 1M tokens pronto para uso, essa suposição vem do card, não do arquivo que o runtime realmente lerá — e a correção é uma edição de configuração que você precisa saber fazer.

Vale destacar pelo mesmo motivo: a tabela Resumo do Modelo do cartão base simplesmente não existe. O cartão pós-treinado traz uma — parâmetros totais, arquitetura, precisão, comprimento de contexto, alvo de implantação, decodificação especulativa, modo de raciocínio, amostragem recomendada, melhor para, licença. O cartão base vai direto de Descrição para Licença, depois para uma tabela de benchmark. Não há nenhuma linha de amostragem recomendada em lugar algum, e não há linha de implantação, então nada no cartão base indica de que hardware ele precisa.
A arquitetura, extraída da configuração fornecida
Como a descrição do fornecedor sobre a arquitetura base é um parágrafo e a forma real está no arquivo, aqui está o que o arquivo diz. Tudo isso vem em primeira mão de config.json no repositório base, não de qualquer resumo.
• Profundidade e composição — 88 blocos no backbone de linguagem. 40 são camadas Mamba-2, 40 são camadas de mistura de especialistas e 8 são camadas de atenção completa, nos índices 7, 16, 25, 36, 47, 58, 69 e 78. Um bloco de atenção aproximadamente a cada nove camadas constitui todo o mecanismo de contexto longo.
• MoE — 512 especialistas roteados por camada MoE, 22 selecionados por token, um especialista compartilhado, um tamanho latente de 1024, e um tamanho intermediário do especialista compartilhado de 5376 contra 2688 para os especialistas roteados. Essa é a aritmética por trás do título "120B totais, 12B ativos".
• Atenção — 32 cabeças de consulta contra 2 cabeças de chave-valor na dimensão de cabeça 128, portanto atenção de consulta agrupada com uma proporção de 16:1. Tamanho oculto 4096.
• MTP — uma camada de previsão do próximo token, ela própria composta por um bloco de atenção e um bloco de MoE, no estilo da cabeça de previsão multi-token da DeepSeek. Um passo de previsão, não vários.
• Vision — uma torre C-RADIO ViT-H: 32 camadas, tamanho oculto de 1280, 16 cabeças, tamanho de patch 16, 7 tokens de registro, 3 tokens de classe, um tamanho máximo de imagem de 2048 e um orçamento de patches entre 1024 e 13312. O conector projeta para 20.480, depois uma taxa de redução de 0,5 e um tamanho de imagem forçado de 512 reduzem novamente a contagem de tokens.
• Vídeo — um tamanho de patch temporal de 2 e uma taxa de poda declarada de 0,7.
• Duas peculiaridades — a configuração declara um <audio> token de contexto enquanto seu sound_config é nulo, então a infraestrutura para áudio existe nesta arquitetura e este checkpoint não carrega nada disso. E tie_word_embeddings é falso, o que é padrão para um modelo deste tamanho e vale a pena saber se você planeja redimensionar um vocabulário.
Para dar uma ideia de escala: os metadados safetensors do próprio repositório somam 124,453,395,974 parâmetros, contados byte a byte de tensor, contra o número de manchete da NVIDIA de 120B no total / 12B ativos. Os dois números são reportados em bases diferentes — o número do fornecedor é a aritmética roteada mais compartilhada do modelo de linguagem, e o número do arquivo é tudo o que está armazenado no repositório, incluindo a torre de visão e a cabeça MTP. Não trate a diferença como uma discrepância; orce com base no arquivo.
O que a tabela de benchmark realmente mede
A placa base publica 24 linhas de benchmark e, para crédito da NVIDIA, uma coluna que diz o que cada uma é:
• MMLU 84,14 correspondência exata · MMLU-Pro 76,25 · AGIEval-En 75,65 CoT · SuperGPQA 47,65 CoT · GPQA Diamond 66,16 com correspondência exata em CoT de 5-shot
• GSM8K 91,74 com CoT de 8 exemplos · Minerva MATH 87,66 · MATH-500 81,56 pass@1 amostrado n=32 · HumanEval 81,31 EvalPlus sanitizado · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete e 49,39 instruct
• ARC-Challenge 95.99 · HellaSwag 88.96 · TruthfulQA MC2 71.18 · WinoGrande 79.08 · PIQA 85.09 · CommonsenseQA 85.26 · OpenBookQA 48.80 · SocialIQA 49.03 · RACE 91.39
• Global MMLU 86,56 em média em 8 idiomas · MGSM 87,53 com CoT nativo de 8 shots em 6 idiomas
Duas coisas naquela tabela são fáceis de passar despercebidas, e ambas importam.
Primeiro, a própria frase de enquadramento do cartão diz que os resultados "avaliam o backbone base somente de texto do Nemotron 3.5 Super, antes do treinamento de visão-linguagem." Independentemente do que mais isso signifique, significa que esses números não são um quadro de avaliação multimodal — não há benchmark de OCR, nem linha de compreensão de documentos, nem linha de vídeo em lugar algum no cartão base, ainda que entradas de vídeo e documento sejam descritas duas seções antes. Se o seu motivo para querer o checkpoint base é a sua torre de visão, o cartão não lhe dá nada empírico com que planejar.
Segundo, a tabela não tem colunas de linha de base. A tabela do cartão pós-treinado se estende por sete colunas — Nemotron 3.5 Super GA contra Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, Nemotron 3 Ultra, Inkling-Small e GLM-5.3-Flash. O cartão base tem exatamente uma coluna. E a mistura do que foi executado é reveladora: o cartão pós-treinado abandona totalmente o MMLU em favor do MMLU-ProX, enquanto o cartão base executa tanto o MMLU quanto o MMLU-Pro e nem o MMLU-ProX nem as suítes agênticas e de nível de harness nas quais o cartão pós-treinado se apoia. Você não consegue responder "esta base é melhor do que aquela base" a partir do cartão. Você teria que executar as duas.
Todos os números acima são da NVIDIA, produzidos pelo próprio harness NeMo Gym da NVIDIA — o card do modelo pós-treinado afirma isso explicitamente, e o card base não publica nenhuma nota sobre o harness. Nada em nenhuma das duas tabelas foi reproduzido de forma independente.
Base versus pós-treinado, no único benchmark que compartilham
As duas placas não compartilham uma tabela de benchmark, mas compartilham exatamente uma linha que você pode colocar lado a lado, e é justamente a que mais importa.
• GPQA Diamond — 66,16 no card base, em correspondência exata de cadeia de pensamento com 5 shots. 89,52 no card pós-treinado. Uma diferença de 23,36 pontos, dos dois documentos da própria NVIDIA, com o valor base explicitamente rotulado como o backbone somente texto.

Esse é o título honesto de quanto valem os Estágios 4 a 6 em raciocínio científico de nível de pós-graduação: o pós-treinamento não é uma etapa de polimento deste modelo; representa aproximadamente outra metade da capacidade. Ele também indica a direção do trade-off. Se o seu plano é fazer o pós-treinamento do checkpoint base por conta própria, você começa 23 pontos atrás do modelo que a NVIDIA está vendendo e aposta que seus dados e seu sinal de recompensa fecharão essa lacuna no seu domínio — que é exatamente a aposta que os próprios números de clientes da NVIDIA descrevem: a Scale AI reportando uma redução de 40x no custo de inferência para processamento de crédito de fornecedores, a Ramp esperando até 50% mais throughput e latência 10x menor para extração de recibos para JSON. Esses são resultados declarados por fornecedores e clientes, sem medição independente, e são a única evidência publicada de que é possível fechar a lacuna.
Observe a armadilha ao ler os dois cartões em conjunto. O "MMLU-Pro" do cartão base, em 76,25, e o "MMLU-ProX" do cartão pós-treinado, em 76,91, parecem uma diferença de 0,66 ponto e não são comparáveis — são benchmarks diferentes, um deles com um método de extração TigerLab declarado. O "MMLU" do cartão base, em 84,14, não tem nenhum equivalente no cartão pós-treinado. Se você quer um delta no mesmo benchmark, o GPQA Diamond é o que você tem, e o LiveCodeBench é o que você não tem: o cartão base relata CodeGen em 47,61, enquanto o cartão pós-treinado relata LiveCodeBench v6 em 88,22, que é uma versão diferente da mesma família de benchmarks e não um delta.
O que 249 GB compra, e o que não
O download em si é um comando, e é o único comando em todo o cartão do modelo base:
• hf download nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16
Esse é todo o Quick Start. O card base contém um bloco de código; o card pós-treinado contém vinte e dois. Não há vllm serve, nem lançamento do SGLang, nem orientação de tensor-parallel, nem --max-num-seqs, nem flag de reasoning-parser, nem configuração de MTP para decodificação especulativa, e nenhum exemplo de cliente de API. O card pós-treinado traz tudo isso, incluindo uma receita 4×H100 com --enable-mamba-shared-prefix-checkpoint e uma receita 2×GB200 em TP2.
• Motores de runtime — o card base nomeia PyTorch, Megatron-LM e NeMo, e sua seção de Inferência nomeia apenas PyTorch. O card pós-treinado nomeia vLLM e SGLang. De um lado estão nomes de frameworks de treinamento e, do outro, nomes de runtimes de serviço, e essa divisão é deliberada, não acidental.
• Hardware de teste — Hopper H100 e H200, Grace Blackwell GB200 e GB300, Blackwell B200 e B300. A placa pós-treinada se restringe a 4×H100 ou 2×GB200 para implantação.
• Disco — 248,9 GB em 63 shards, o mesmo que a build pós-treinada de precisão total. O irmão NVFP4 tem 75,1 GB. Se você está baixando a base para inspecioná-la ou adaptá-la em vez de executá-la, você está pagando 3,3 vezes o download do NVFP4 pelo privilégio de não obter nenhuma receita de serving.
O que você realmente recebe que é genuinamente utilizável: o repositório inclui um chat_template.jinja completo de 12.513 bytes, e ele contém o switch enable_thinking, incluindo a variante de esforço médio. Ele também inclui um generation_config.json com temperature 1.0, top_p 0.95 e do_sample true. Comparar esse template com o pós-treinado resulta em uma diferença de 414 bytes, toda ela referente ao tratamento de espaços em branco em torno dos placeholders de imagem e vídeo — fora isso, os dois templates são o mesmo arquivo.
Portanto, a infraestrutura para conversar com o checkpoint base como um modelo de chat está presente e é quase idêntica à do modelo de chat distribuído. O que está ausente é qualquer declaração de que você deveria fazer isso. Não há linha de amostragem recomendada no cartão do modelo base, nem linha de modo de raciocínio, e nenhum benchmark para isso na configuração de chat. Você pode servi-lo como um modelo de chat em cerca de dez minutos. Se a saída merece sair de um ambiente de teste é uma questão diferente, e a resposta do cartão é que não merece.
A divulgação do corpus sobre a qual ninguém está falando
Aqui está a parte da versão base que é possivelmente mais útil do que os pesos, e que quase não recebeu atenção porque fica em tabelas num repositório que nunca foi vinculado.
O cartão base publica em detalhes o corpus de treinamento que o cartão pós-treinado não traz: um corpus de base com mais de 20 trilhões de tokens coletados entre 2013 e dezembro de 2025, discriminado por fonte — Nemotron-CC-v2 e v2.1 com 9,1T, Nemotron-CC-Code-v1 com 427,9B, os conjuntos Nemotron-Pretraining-Code com 1,7T no total, Nemotron-CC-Math-v1 com 133,3B, os conjuntos sintéticos especializados e de SFT com 660B, e um conjunto jurídico com 4,3B. Inglês, 19 outros idiomas falados, 43 linguagens de programação.
Depois, duas tabelas que a maioria dos lançamentos de pesos abertos simplesmente não publica. Uma lista conjuntos de dados privados e não acessíveis publicamente pertencentes a terceiros, e nomeia os modelos que produziram seus rótulos — Qwen3.5-122B-A10B em um amplo conjunto de tarefas de re-rotulagem de OCR e de resposta a perguntas visuais, DeepSeek-OCR em um subconjunto filtrado de OCR em chinês, Qwen3.5 em um subconjunto verificado como correto, Gemini 3 e GPT-5 em dados de RL para busca. A outra lista os conjuntos de dados privados da própria NVIDIA e, novamente, nomeia os geradores: Kimi K3 para dados de SFT de cadeia de pensamento matemático, DeepSeek-V4-Pro para OCR de programação competitiva, gpt-oss-120b para RL de saída estruturada, GLM-5.2 para refinamento, MiniMax-M2 para caminhadas em grafos de busca e uma longa cauda de outros.
Depois, duas tabelas que a maioria dos lançamentos de pesos abertos simplesmente não publica. Uma delas lista conjuntos de dados privados, não acessíveis publicamente, pertencentes a terceiros, e nomeia os modelos que produziram suas rotulagens — Qwen3.5-122B-A10B em uma ampla variedade de tarefas de rotulagem de OCR e perguntas e respostas visuais, DeepSeek-OCR em um subconjunto filtrado de OCR em chinês, Qwen3.5 em um subconjunto verificado como correto, Gemini 3 e GPT-5 em dados de RL para busca. A outra lista os conjuntos de dados privados da própria NVIDIA e, novamente, nomeia os geradores: Kimi K3 para dados de SFT de cadeia de pensamento em matemática, DeepSeek-V4-Pro para OCR de programação competitiva, gpt-oss-120b para RL de saída estruturada, GLM-5.2 para refinamento, MiniMax-M2 para percursos em grafos de busca, e uma longa cauda de outros. As tabelas emparelhadas são um lembrete de como a indústria realmente funciona — o sinal de treinamento de um modelo de fronteira inclui rotineiramente saídas dos modelos de concorrentes, e a NVIDIA é um dos pouquíssimos laboratórios dispostos a dizer quais e para quê.
O repositório também inclui um Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf, adicionado a 15 de outubro, que constitui a divulgação de conteúdo de treino orientada para a UE. A mistura de mid-training é divulgada com a mesma granularidade, e uma das suas linhas é diretamente relevante se pretender fazer fine-tuning para trabalho de software: a fase de engenharia de software de 67B tokens é 20% repositórios completos, 41% pares de issues e pull requests, 3% diffs de commits, 1% logs de build e CI, 10% traços de agentes, 20% replay de pré-treino e 5% dados de contexto longo, e as suas fontes são descontaminadas em relação a repositórios do SWE-bench e do Terminal-Bench. Essa declaração de descontaminação é a linha do cartão que lhe diz quanto vale uma pontuação em qualquer um dos benchmarks.
A licença, e para quem se destina o checkpoint base
OpenMDW-1.1, a mesma licença das versões pós-treinadas, com o cartão do modelo declarando claramente: "Este modelo está pronto para uso comercial ou não comercial." O repositório não tem acesso restrito e nenhum token do Hugging Face é necessário para o download, embora as próprias receitas de contêiner da NVIDIA em outras partes da família presumam que um seja necessário.
Coloque a licença ao lado do caso de uso e o público-alvo pretendido fica inequívoco. Ninguém baixa um checkpoint pré-pós-treinamento de 249 GB para economizar na inferência — a build NVFP4 é 3,3 vezes menor, mais rápida e 23 pontos melhor no GPQA Diamond. O checkpoint base é para uma equipe que pretende assumir a etapa de pós-treinamento: um domínio diferente, um sinal de recompensa diferente ou uma política de dados diferente da que a NVIDIA executou. Sob a OpenMDW-1.1, com uso comercial permitido e pesos de acesso livre, isso é algo legítimo sobre o que construir um produto, e é exatamente por isso que a documentação ausente tem um custo.
E vale a pena separar os dois tipos de leitor aqui. Se a sua pergunta é "o que devo chamar esta semana para análise de documentos ou compreensão de vídeo", o checkpoint base não é a sua resposta e nunca foi; o modelo pós-treinado é, e a questão em aberto aí é a verificação de benchmark, e não a disponibilidade. Se a sua pergunta é "posso obter um backbone vision-language híbrido Mamba-MoE de classe 120B com uma licença permissiva como ponto de partida para o meu próprio treino", então este repositório é a resposta e tem estado sem link desde 12 de outubro.
Se você fosse avaliá-lo
O erro caro com um checkpoint como este é tratar o download como o teste. Não é: 249 GB, 63 shards e uma edição de configuração antes da primeira passagem direta não lhe dizem nada sobre se a torre de visão se transfere para a sua classe de documentos.
O teste barato é estabelecer a questão da capacidade primeiro em um modelo servido e só então gastar o disco. Um gateway de roteamento é útil para isso e para nada mais nesta decisão — uma única chave e um único endpoint para uns duzentos modelos ao preço de tabela do provedor, com 0% de markup significa que você pode colocar o build pós-treinado do Nemotron 3.5 Super VL contra qualquer modelo de visão que você já esteja usando, nas suas próprias imagens, em uma tarde e pelo custo dos tokens. Failover automático entre provedores importa aqui por um motivo específico: uma execução de avaliação que morre na requisição 4.000 de 5.000 custa a execução inteira, e um gateway que tenta novamente em outro lugar diante de um erro do provedor é a diferença entre uma tarde e duas.
Para ser direto sobre a única coisa que, de outro modo, seria ambígua: o NVIDIA Nemotron 3.5 Super VL não está no nosso catálogo. Não servimos este modelo hoje, e o checkpoint base especificamente não é algo que um endpoint hospedado tenha qualquer probabilidade de disponibilizar, porque checkpoints base não são produtos de inferência. O que um gateway lhe dá é a metade barata do experimento — a comparação que lhe diz se vale a pena pagar os 249 GB.
O que ainda não foi estabelecido
Quatro coisas, enunciadas como lacunas em vez de riscos.
• Qual limite de contexto é real. O cartão diz 1M, a configuração distribuída declara 262.144 e a descrição de treinamento diz que uma extensão de 1M foi executada. Não há declaração publicada que resolva as três. Qualquer pessoa que planeje uma execução de pré-treinamento contínuo de contexto longo deve tratar o valor da configuração como padrão e verificar no seu runtime, em vez do cartão.
• O que a torre de visão é capaz de fazer. O cartão base não publica nenhuma avaliação multimodal de qualquer tipo. Sem OCR, sem documento, sem gráfico, sem linha de vídeo — para o único checkpoint da família cujo propósito inteiro é ser ajustado nessas modalidades. Esse é o maior buraco nas evidências publicadas.
• Como a base se compara a qualquer coisa. Tabela de benchmark de coluna única, sem baselines, sem nota de harness. O valor 66,16 do GPQA Diamond é, em princípio, reproduzível por meio do NeMo Gym e não foi reproduzido por ninguém fora da NVIDIA.
• Se a base inclui em algum lugar as receitas de implantação de 1M. O card pós-treinado traz comandos de lançamento de 4×H100 e 2×GB200 para a janela completa. O card base traz apenas um hf download. Não está claro se isso é uma lacuna na documentação ou uma declaração de que servir a base com 1M não é algo que a NVIDIA pretende suportar.
Nada disso torna o lançamento menos interessante. Isso faz do checkpoint base o artefato menos documentado da família e, para um tipo restrito e específico de equipe, o mais útil dela — a diferença está em saber se o seu próximo passo é uma chamada de API ou uma execução de treinamento.
Para um modelo cujos modos de falha ainda não estão documentados, a contraparte útil é o registro do que já deu errado em outros lugares: os incidentes de IA documentados e as falhas de agentes em torno de modelos desta classe são coletados em o OrcaRouter AI Incident Archive, onde cada entrada carrega suas próprias fontes, gravidade, grau de confiança e indicador de disputa.
