NVIDIA Nemotron Labs Dory 1.0 4B chegou ao Hugging Face com quatro checkpoints e sem anúncio

O N​VIDIA N​emotron Labs Dory 1.0 4B está no Hugging Face agora mesmo, em quatro quantizações, e a N​VIDIA não disse uma palavra sobre isso. O checkpoint nvidia/N​VIDIA-N​emotron-Labs-Dory1.0-4B-MXFP8 foi publicado com um cartão de modelo que carimba a build como "GA (10/16/2026)"; seus três irmãos — N​VIDIA-N​emotron-Labs-Dory1.0-4B-BF16, N​VIDIA-N​emotron-Labs-Dory1.0-4B-NVFP4 e N​VIDIA-N​emotron-Labs-Dory1.0-4B-GGUF — foram enviados dentro da mesma janela de 36 minutos em torno da meia-noite UTC de 16–17 de outubro de 2026. Não há post correspondente no blog de desenvolvedores da N​VIDIA, nem entrada na landing page de pesquisa do N​emotron, nem qualquer referência a um modelo chamado Dory em nenhum dos dois. O próprio cartão é excepcionalmente completo — uma tabela completa de benchmarks, instruções de serving para dois engines, um checksum —, mas o andaime de marketing em torno dele, aquilo que normalmente sinaliza que um modelo existe, está totalmente ausente.

Portanto, vale a pena ser exato sobre o que isso autoriza e não autoriza você a dizer. O que é possível saber: os pesos existem, podem ser baixados, a licença está declarada, a arquitetura está descrita em detalhe suficiente para ser reproduzida, e o fornecedor publicou seus próprios números junto com uma observação de que foi ele mesmo quem os mediu. O que ainda não está confirmado: se isto é o início de uma família Nemotron Labs ou um experimento pontual, se um artigo ou uma postagem de blog está por vir, e se os números se sustentam sob a estrutura de avaliação de qualquer outra pessoa. A NVIDIA não enquadrou isto como um lançamento, e este texto também não. É uma leitura de um repositório que apareceu da noite para o dia.

O que está realmente no repositório

Os artefatos são quatro checkpoints e um cartão de modelo. O cartão é o documento substancial, e é dele que vem quase tudo abaixo.

• Formatos — BF16 (W16A16), MXFP8 (W8A16), NVFP4 (W4A16) e uma exportação GGUF Q5_K_M para llama.cpp. O checkpoint MXFP8 é o assunto deste artigo apenas porque é aquele que carrega o id canônico do repositório; os benchmarks no cartão foram medidos em BF16.

• Tamanho e formato — 4B de parâmetros totais, uma pilha densa em vez de uma mistura de especialistas, dividida em um bloco de entrada de 8 camadas, um bloco recorrente de 20 camadas e um bloco de saída de 8 camadas.

• Contexto — até 256K tokens, com 262.144 posições validadas no vLLM sob o comando de inicialização que a NVIDIA fornece para o cartão.

• Licença — OpenMDW 1.1, uma licença de modelo permissiva e redistribuível com o texto vinculado a partir do cartão. O cartão declara claramente que o modelo está "pronto para uso comercial ou não comercial".

• Idioma — apenas inglês, embora os dados de pré-treinamento abranjam 43 linguagens de programação.

• Orçamento de treinamento — 6 trilhões de tokens de pré-treinamento, dos quais aproximadamente os primeiros 4,5 trilhões foram executados nativamente em NVFP4 antes de o restante passar para BF16, seguido por uma fase de extensão de contexto de 300 bilhões de tokens. Os dados abrangem de 2013 a dezembro de 2025. O pós-treinamento consiste em um ajuste fino supervisionado em um conjunto curado pela NVI​DIA, seguido de aprendizado por reforço multiambiente com GRPO.

• Atividade do repositório — oito commits na `main` e dois contribuidores no momento da redação, sendo o mais recente deles uma edição de README. O primeiro, "Upload Dory 4B MXFP8 checkpoint and tokenizer", tem poucas horas. Este não é um repositório que ficou quieto em público por meses e só agora foi notado; é um que foi populado hoje.

Um detalhe que o card acerta e que a maioria dos cards não acerta: ele lista o tamanho exato em bytes e o SHA-256 da exportação GGUF, para que você possa verificar o que baixou. 3.673.288.864 bytes, com o hash impresso nas instruções de inicialização.

A arquitetura é o único motivo para nos importarmos

Deixando de lado a tabela de benchmarks, o fato interessante sobre o NVIDIA Nemotron Labs Dory 1.0 4B é que ele não é um modelo fixo. É uma rede em loop, ou latente-recorrente: o bloco recorrente de 20 camadas é aplicado repetidamente entre os blocos de entrada e saída, e a entrada é reinjetada a cada loop. O mesmo checkpoint, portanto, se comporta de forma diferente dependendo de quantos loops você solicita, e você escolhe isso no momento de serving, e não no momento de treinamento.

Seguem-se três consequências, todas elas do cartão do modelo, e não dos testes de qualquer pessoa:

• Computação de inferência elástica — um único arquivo de pesos atende a vários orçamentos de computação. Número de loops 1 para latência, 2 como padrão recomendado, 4 quando a precisão em tarefas agênticas importa mais do que tokens por segundo. Sem retreinamento, sem segundo checkpoint para baixar e manter sincronizado.

• Eficiência de tokens — a N​VIDIA afirma que o compute extra por token vai para o raciocínio latente, em vez de para uma cadeia de pensamento visível mais longa, de modo que contagens de loop mais altas podem produzir menos tokens de saída para a mesma tarefa. A placa traz um gráfico de fator de tokens de saída para sustentar esse argumento. Essa afirmação tem uma consequência direta de custo, e é exatamente por isso que vale a pena destacá-la em vez de descartá-la.

• Looping com uso eficiente de memória — este é o que responde à objeção óbvia. O looping padrão mantém um cache KV separado por loop, de modo que a memória cresce a cada passagem adicional. O Dory oferece suporte a um modo de cache KV de último loop que mantém um único cache por camada de atenção recorrente e o sobrescreve a cada passagem, mantendo o consumo em aproximadamente o tamanho de um único loop, não importa quantos loops você execute. A ​NVIDIA afirma que a precisão com o cache de último loop permanece próxima à do cache por loop, com comprimentos de saída praticamente inalterados, e descreve isso como um resultado experimental próprio.

A pilha de atenção é híbrida: camadas intercaladas de janela deslizante e de atenção completa, o mesmo padrão amplo para o qual a safra de 2026 de pequenos modelos de contexto longo convergiu. Nada disso é exótico por si só. O que é menos comum é disponibilizar a contagem de loops como um ajuste de implantação em um modelo de 4B com uma janela de 256K.

A tabela de benchmark, lida como uma tabela de fornecedores

Todos os números aqui foram produzidos pela N​VIDIA sob o que o card chama de "um harness consistente (NeMo Gym / Nemo Evaluator SDK)". Nenhuma parte externa reproduziu qualquer um deles, o modelo tem aproximadamente um dia de vida, e os contadores de download de todos os quatro repositórios marcam zero. Trate os números como uma alegação sobre direção, não como um placar.

O conjunto de comparação que a N​VIDIA escolheu é revelador por si só: Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B e Qwen3.6-35B-A3B. Notavelmente, os dois comparadores de classe 4B são da geração anterior do Q​wen, e todos os demais comparadores são substancialmente maiores. Leia nas três configurações de loop:

• SWE-bench Verified — 50,3 com um loop, 59,5 com dois, 61,8 com quatro, contra 54,7 do Qwen3.5-4B, 61,0 do Qwen3.5-9B, 57,40 do Gemma 4 26B A4B e 73,4 do Qwen3.6-35B-A3B.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 contra 15, 24, 35 e 43. Esta é a linha em que o looping rende mais e em que Dory ainda está mais atrás do pelotão.

• τ³-bench (Bancário) — 11,6 / 12,89 / 14,69 contra 5,03 do Qwen3.5-4B, 7,22 do Qwen3.5-9B, 13,66 do Gemma 4 26B A4B e 9,54 do Qwen3.6-35B-A3B. Dory lidera os modelos Qwen 4B e 9B aqui por uma ampla margem.

• GDPval-AA-V2 (Elo) — 815 / 946 / 967 contra 424, 546, 751,6 e 987. O salto de um loop para dois é de 131 pontos Elo, que é o maior movimento de loop para loop em toda a tabela.

• GPQA Diamond, sem ferramentas — 69,19 / 72,41 / 72,16 contra 77,71, 80,93, 80,43 e 85,35. Dory perde esta para todos os comparadores, incluindo o Qwen de 4B.

• HLE, somente texto, sem ferramentas — 8,25 / 10,89 / 10,43 contra 11,31, 15,43, 17,79 e 19,18. Mesma história.

• IFBench — 74,29 / 77,94 / 79 contra 53,83, 59, 77,89 e 57,44. O seguimento de instruções é o resultado relativo mais forte da Dory; com quatro loops, ela supera por pouco o G​emma 4 de 26B.

• AA-LCR — 63 / 71 / 73 contra 64,7, 68,4, 64,6 e 68,5. A recuperação de contexto longo melhora acentuadamente com loops e acaba ficando à frente de todos os quatro comparadores.

• AA-Omniscience (precisão) — 10.03 / 10.08 / 10.03 contra 15.02, 18.05, 21.13 e 19.95. O looping não faz praticamente nada pelo conhecimento armazenado, o que é o resultado esperado e uma verificação de sanidade útil para o restante da tabela.

O que importa é o formato do padrão. O looping rende mais em tarefas agênticas e de uso de ferramentas, e menos em recordação enciclopédica, e o segundo loop vale muito mais do que o terceiro e o quarto em todos os casos. Isso é consistente com a recomendação do próprio card de usar dois loops por padrão.

Quatro ressalvas contidas nas próprias notas de rodapé da N​VIDIA

É aqui que o cartão é mais honesto do que a maioria, e onde um leitor que passe os olhos pela tabela seria induzido em erro.

• Os valores AA não são valores da Artificial Analysis. A comparação da NVIDIA com um índice de pontuação AA é rotulada explicitamente como "estimativas internas calculadas sob uma estrutura de avaliação consistente", que "podem divergir das pontuações oficiais da Artificial Analysis (AA)". Trata-se de uma medição interna em bases equivalentes, não de um ranking externo.

• A coluna de contexto longo usa uma configuração híbrida. Para o AA-LCR, o card diz que usou chaves de resposta corrigidas do AA-LCR v1.1, mas manteve um modelo juiz mais antigo em vez do mais novo. Misturar um conjunto de chaves corrigido com um juiz mais antigo torna essa coluna comparável às outras linhas da N​VIDIA e não necessariamente comparável às de qualquer outra pessoa.

• As contagens de repetição estão completamente inconsistentes. O SciCode é executado oito vezes; o AA-LCR, dezesseis; o AA-Omniscience, dez; o GDP.pdf, cinco; e o HLE, o Terminal-Bench 4.0 e as variantes GDPval-AA são executados uma vez. Uma única execução em um benchmark com variância significativa é uma estimativa pontual, não uma pontuação.

• Uma linha na tabela está marcada com uma adaga como um valor reportado, e não medido — o 73,4 do Qwen3.6-35B-A3B no SWE-bench Verified. O que significa que o número que parece o maior no placar é aquele que a própria NVIDIA não executou.

Nada disso torna a tabela errada. Isso a torna um instantâneo interno de um único laboratório, e a leitura honesta é que Dory parece genuinamente competitivo com os modelos de 4B e 9B da geração anterior do Qwen em tarefas agênticas, embora permaneça atrás dos modelos de 26B e 35B ao lado dos quais está colocado.

O que você pode executar hoje, e o que não pode

Não há endpoint hospedado para este modelo que possamos verificar, da NVIDIA ou de qualquer outra pessoa. Dory é apenas pesos, e os dois caminhos de serving no card exigem compilação a partir de um pull request não mesclado:

• vLLM — o suporte está "em análise" no pull request 60149. Até que ele chegue a uma release, você instala o vLLM a partir desse branch e depois o serve com overrides que definem a contagem de loops e o modo de KV-cache. O card observa que a flag de ambiente de kernel pré-compilado evita uma compilação local do CUDA.

• llama.cpp — o suporte está no pull request 30306, e o card fixa uma revisão específica em vez do head mutável do PR, o que é o instinto certo para uma configuração de referência. As instruções têm como alvo o macOS ARM64 nativo em Apple Silicon, e o caminho GGUF espera a exportação Q5_K_M no tamanho em bytes impresso acima.

Nada no cartão sugere que qualquer um dos projetos tenha sido mesclado, e não há nenhuma entrada nas notas de versão de qualquer um dos motores que sugira o contrário. Se você quiser executar o Dory esta semana, estará fazendo build a partir de um PR.

Notas de hardware que vale a pena guardar: a NVIDIA testou em H100, B200, B300 e DGX Spark, e os únicos números de velocidade publicados são ganhos de velocidade de quantização no Spark, em vez de valores de throughput. Nesse dispositivo, o MXFP8 apresenta 1,69× e 1,84× em relação ao BF16, dependendo da combinação de comprimentos de entrada/saída, e o NVFP4 atinge 2,17× e 2,44×. A amostragem recomendada é temperatura 1,0 com top-p 0,95, e o raciocínio está sempre ativado no caminho do vLLM.

Por que um lançamento discreto do 4B ainda vale a sua tarde

O interessante de um modelo que chega sem lançamento é que a sua afirmação é verificável de uma forma que uma afirmação de lançamento não é. Não há uma keynote a afirmar uma vitória de categoria; há um cartão a afirmar um mecanismo específico e falsificável — que um checkpoint de 4B escala a sua própria acurácia com computação em tempo de inferência. É possível testá-lo numa única GPU com a flag de contagem de loops, e a resposta ou é visível na sua própria avaliação, ou não é.

É também para esta situação que uma camada de encaminhamento é construída, e vale a pena ser preciso quanto ao que fazemos aqui em vez de apenas fazer alusões vagas. A OrcaRouter não disponibiliza o NVIDIA Nemotron Labs Dory 1.0 4B — o modelo não está no nosso catálogo e não existe nenhum endpoint alojado para ele em qualquer sítio que possamos confirmar. O que uma única chave lhe dá é a outra metade da comparação: os modelos alojados com os quais compararia um modelo 4B auto-alojado estão acessíveis através de uma única API ao preço de tabela do fornecedor, com 0% de margem, pelo que uma experiência auto-alojada não precisa de um segundo contrato nem de um segundo SDK. O failover automático cobre a janela em que o seu próprio conjunto de GPUs está saturado, e a DSL de encaminhamento permite que uma chamada auto-alojada fique ao lado das alojadas por trás de um único endpoint. Se está a testar se a profundidade elástica vale a complexidade operacional, pelo menos o grupo de controlo está a uma chave de distância.

O que transformaria isso em uma história de verdade?

Três coisas, nenhuma delas presente ainda.

Primeiro, um anúncio. O cartão está datado de 16 de outubro e os repositórios foram preenchidos durante a noite; o feed de desenvolvedores da N​VIDIA publicou um post do N​emotron em 15 de outubro que era sobre um modelo completamente diferente. Um post de blog, um artigo ou uma página da família N​emotron Labs poderia aparecer a qualquer momento, e provavelmente traria os detalhes de treinamento e o papel pretendido do modelo que o cartão deixa implícito.

Segundo, suporte a engines. Tanto o vLLM quanto o llama.cpp estão em pull requests não mesclados. No dia em que um dos dois for mesclado, "você consegue executá-lo" deixa de significar "você consegue compilá-lo a partir de um branch".

Terceiro, e mais valioso, uma avaliação independente. As alegações que mais valem a pena reproduzir são as que o fornecedor destacou: a variação do SWE-bench e do Terminal-Bench conforme o número de loops, e a afirmação de que o cache KV do último loop preserva a precisão. Ambas são testáveis com ferramentas publicadas, e nenhuma delas foi testada por ninguém fora da N​VIDIA.

O resumo preciso de hoje é este: pesos reais em quatro formatos, uma licença permissiva, uma arquitetura genuinamente incomum, um caminho de serving que existe apenas como dois pull requests abertos, e uma folha de benchmark que é o harness próprio de um laboratório, com as ressalvas impressas nas suas próprias notas de rodapé. É o modelo 4B mais interessante que a NVIDIA publicou este ano e a empresa ainda não decidiu falar sobre isso com ninguém.

Nada disso é hipotético: as falhas de IA documentadas e os incidentes com agentes por trás de lançamentos como este estão reunidos no Arquivo de Incidentes de IA da OrcaRouter, onde cada entrada traz as suas próprias fontes, gravidade, grau de confiança e sinalização de contestação.