Um cartão de título gerado para Nemotron-Labs-Sigma-distill-8B-nfe4, indicando um lançamento em 12 de novembro de 2026, 8 bilhões de parâmetros, um número fixo de 4 avaliações de desruído por bloco de 32 tokens, cinco downloads e zero curtidas no último mês, e um rodapé informando que todos os números vêm do cartão de modelo da NVIDIA e não são verificados de forma independente.
Engineering & Research

Nemotron-Labs-Sigma-distill-8B-nfe4 Chegou Sem Anúncio e Com Cinco Downloads

Autor

jinhao.song

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

A Hugging Face contabilizou cinco downloads de nvidia/Nemotron-Labs-Sigma-distill-8B-nfe4 nos últimos trinta dias, e zero curtidas, quando este texto foi escrito em 17 de novembro de 2026. Essa é toda a recepção até agora de um modelo de linguagem de 8 bilhões de parâmetros que a NVIDIA publicou seis dias antes. Não houve post no blog, listagem no build.nvidia.com, thread de lançamento, tabela de benchmarks em comunicado à imprensa. O próprio cartão do checkpoint data o lançamento em 11/12/2026; o primeiro commit do repositório é de 9 de novembro às 05:47 UTC, e a última edição nele foi em 16 de novembro, que reescreveu a conversão para preservar tensores de geometria fp32. Tudo abaixo foi extraído desse repositório, de seus arquivos de configuração e do relatório técnico que ele cita, e as partes que não estão confirmadas são sinalizadas como tal, em vez de preenchidas.

O repositório é a única fonte primária, e é incomumente explícito.

A maioria dos lançamentos discretos deixa um cartão provisório. Este não. Ele vem com um arquivo de proveniência, um manifesto de integridade do checkpoint com um SHA-256, um hash de integridade para o tokenizador, quatro subcartões do Model Card++ e uma configuração de geração que fixa o amostrador. Esse nível de registro é o que se obtém quando um modelo passou por um processo interno de lançamento e simplesmente não foi anunciado — os artefatos que um post de lançamento resumiria estão todos presentes, menos o post.

O artigo por trás disso é real e tem data: arXiv:2610.02665, Large Language Continuous Diffusion Models, um artigo da NVIDIA com dezessete autores cuja v2 foi publicada em 12 de novembro, o mesmo dia em que a ficha diz que os pesos chegaram. O artigo descreve o Nemotron-Labs-Sigma como a primeira família de modelos de linguagem de difusão contínua em larga escala, com 3B e 8B. A seção de avaliação da ficha atribui seus números às "estatísticas verificadas de dez sementes e seis tarefas da entrega de liberação restrita de 10 de novembro" — uma frase que revela que o arquivo estava circulando de forma privada por pelo menos dois dias antes de os repositórios públicos serem ativados.

Screenshot of the Hugging Face model card for nvidia/Nemotron-Labs-Sigma-distill-8B-nfe4, showing the model overview describing an 8-billion-parameter continuous diffusion language model distilled with Phased Distribution Matching Distillation, the native 4-NFE 32-token block generation contract, the NVIDIA Nemotron Open Model License, and the release date line reading Hugging Face 11/12/2026.

O que está realmente no checkpoint

Tire a prosa e a ficha técnica fica curta. Cada linha abaixo é de config.json, generation_config.json ou do card:

• Backbone — um transformer decoder-only no estilo Ministral: 34 camadas, tamanho oculto 4.096, FFN 14.336, 32 cabeças de consulta e 8 cabeças de chave-valor com dimensão de cabeça 128, SwiGLU, RoPE com um bloco de escalonamento YaRN na configuração.

• Cabeça de geração — uma cabeça de difusão de embeddings contínuos de tokens de 16 dimensões, com a cabeça de leitura autorregressiva auxiliar mantida no checkpoint em vez de podada.

• Contagem de parâmetros — 8.0B pela nomenclatura do card, 9.03B pelo censo de safetensors (9,026,818,048 tensores BF16 mais 2,097,186 F32), 18.06 GB distribuídos em quatro shards. A diferença entre os dois números é a cabeça auxiliar.

• Contrato de decodificação — blocos de 32 tokens, exatamente 4 avaliações da função de denoising mais uma leitura, portanto 5 chamadas ao denoiser por bloco, o que equivale a 6,4 tokens gerados por passagem direta.

• Amostrador — o caminho nativo fresh_x0 com autocondicionamento transportado entre etapas, orientação sem classificador fixada em 1, temperatura de score fixada em 1.

• Contexto — 4,096 tokens para o prompt mais a geração. Apenas em inglês. Sem parada por EOS de token-ID; você para em strings ou em um orçamento de tokens.

• Ambiente de execução — PyTorch 2.4 ou superior, Transformers 4.55 ou superior, trust_remote_code, uma GPU CUDA em bfloat16. A CPU não é suportada explicitamente, e o cartão indica o motivo: o amostrador é numericamente degradado na CPU e produz saída inutilizável.

• Licença — a Licença de Modelo Aberto da NVIDIA (NVIDIA Nemotron Open Model License), que, segundo o cartão do modelo, permite uso comercial e não comercial. O cartão refere também, na secção de casos de uso, que o modelo funciona offline no seu hardware e que a NVIDIA não aloja qualquer serviço.

Essa última linha é importante para quem presumiu que existe um endpoint Sigma em algum lugar. Não existe. Não há nenhuma entrada Nemotron-Labs-Sigma no build.nvidia.com, e o modelo está ausente do catálogo do OrcaRouter, assim como o restante da linha Nemotron — então não há nada para chamar hoje, apenas algo para baixar.

Quatro checkpoints, quatro modelos diferentes

A nomenclatura faz as variantes parecerem um único modelo em quatro configurações. Não são: cada valor de NFE é um student destilado separadamente, e o card é categórico ao afirmar que a contagem de passos é fixada. “Esta variante é treinada apenas para NFE=4, e o código de inferência incluído intencionalmente não expõe uma substituição arbitrária do número de passos” — porque outras contagens de passos avaliariam endpoints de fase sobre os quais o student nunca foi treinado. Portanto, você não ajusta nfe4 para dois passos na inferência; você baixa o nfe2.

As médias publicadas das seis tarefas, todas com dez sementes e dois erros padrão, tornam o trade-off legível pela primeira vez nesta família:

• NFE 2 — GSM8K 80,17, MATH 55,72, HumanEval 48,17, MBPP 37,52; média das seis tarefas 53,02. 3 chamadas ao denoiser por bloco, 10,7 tokens por chamada.

• NFE 4 — GSM8K 86,86, MATH 61,52, HumanEval 60,61, MBPP 57,50; média das seis tarefas 66,36. 5 chamadas por bloco, 6,4 tokens por chamada.

• NFE 8 — GSM8K 88,44, MATH 64,40, HumanEval 65,18, MBPP 62,60; média das seis tarefas 70,34. 9 chamadas por bloco, 3,6 tokens por chamada.

• NFE 16 — GSM8K 89,61, HumanEval 67,68, MBPP 66,20, média das três tarefas 74,50. 17 chamadas por bloco, 1,9 tokens por chamada. E uma ressalva que as outras três não trazem: este checkpoint está marcado como pending_ten_seed_six_task_validation, seus números são uma única execução com seed 42 em três tarefas, e a ficha diz para tratá-los como provisórios e não diretamente comparáveis.

O formato dessa escada é a parte interessante. Dobrar os passos de 2 para 4 rende 13,3 pontos na média de seis tarefas. Dobrar de novo para 8 rende 4,0. Ir para 16 rende mais ~4 nas três tarefas que foram executadas — de uma avaliação diferente e mais fraca. Em outras palavras, a curva de destilação achata fortemente exatamente onde o modelo se torna competitivo, e o checkpoint nfe4 fica logo depois do joelho.

A generated bar chart of the Nemotron-Labs-Sigma-distill-8B checkpoints, plotting six-task mean accuracy against denoising evaluations per 32-token block: NFE 2 at 53.02, NFE 4 at 66.36 and NFE 8 at 70.34 as ten-seed figures, with NFE 16 shown separately at a three-task mean of 74.50 and marked as a single seed-42 run pending validation.

De onde vêm os números e onde eles param

Todos os números acima são da NVIDIA, produzidos pela NVIDIA, em seu próprio harness de avaliação da NVIDIA, e relatados com uma contagem de sementes que os faz parecer mais independentes do que são. Dez sementes com dois erros padrão é um protocolo sério — isso indica que a pontuação nfe4 HumanEval de 60,61 tem um intervalo de ±1,43, amplo o suficiente para que você não considere real uma diferença de dois pontos em relação a qualquer coisa. Mas dez sementes do mesmo harness não são dez laboratórios.

O que não existe até 17 de novembro: uma página do Artificial Analysis para qualquer modelo Sigma, qualquer entrada em um catálogo público de preços de modelos, qualquer suporte a vLLM ou SGLang, e qualquer reprodução por terceiros. A verificação é rápida e retorna vazia. O registro de modelos do vLLM no main não tem nenhuma arquitetura nemotron_labs_sigma; os pull requests do SGLang que mencionam difusão Nemotron são para a linhagem mais antiga Nemotron-Labs-Diffusion-8B e ainda estão abertos. O Transformers não tem um módulo nativo nemotron_labs_sigma, e é por isso que o card orienta a carregar com trust_remote_code e enviar o arquivo de modelagem de 40 KB do repositório junto com os pesos.

Então, o status honesto é: um checkpoint lançado com um protocolo de avaliação publicado e zero verificação externa. Esse é o estado normal para um modelo de linguagem de difusão em novembro de 2026, e não é uma crítica ao modelo — é uma descrição de quanto do cartão você pode usar para planejar.

Executá-lo é um script Python, não uma pilha de serving

O quickstart do card tem onze linhas: carregue o tokenizador e o modelo com código remoto, faça cast para bfloat16, chame generate com uma contagem máxima de tokens e strings de parada opcionais, e leia de volta a contagem de NFE que o modelo reporta. Não há template de chat neste repositório, nem prompt de sistema, nem chamada de ferramentas, nem modo JSON — o card diz claramente que se trata de prompting no estilo benchmark e que o modelo é o aluno destilado de um checkpoint base, não um assistente. Se você quiser conversação, a coleção traz uma variante instruct do modelo pai com 8.192 tokens de contexto.

Dois detalhes operacionais vão pegar qualquer um que só passe os olhos. Primeiro, a parada: não há parada EOS por token-ID, então uma requisição que nunca produza sua string de parada vai até o orçamento de tokens, e o orçamento é compartilhado com o prompt dentro de uma janela de 4.096 tokens. Segundo, a memória: 18 GB de pesos em bfloat16 antes de qualquer KV cache, em um modelo cujo único caminho suportado é código eager do PyTorch do próprio repositório — não há atenção paginada, nem batching contínuo, nem build quantizado na coleção. Uma única requisição em uma GPU é a configuração suportada hoje.

A vazão é o número que as pessoas vão querer, e o card não o fornece para este checkpoint. O card do modelo pai informa cerca de 120–140 tokens por segundo para 256 tokens gerados em uma H100 usando o amostrador DDPM com 32 etapas por bloco de 64 tokens. O nfe4 destilado faz 5 chamadas por 32 tokens em vez de 33 chamadas por 64, o que, pela contagem de chamadas, representa pouco mais de quatro vezes menos passagens forward por token — mas isso é aritmética sobre contagens de etapas, não uma medição deste checkpoint, e o card não publica nenhum número de tokens por segundo para ele.

O que não está confirmado

Três coisas que um post de lançamento teria esclarecido, e que esta versão não esclarece:

• Se a NVIDIA pretende isto como um produto ou um artefacto de investigação. A licença permite uso comercial e o cartão está redigido em linguagem de produto, mas não há endpoint alojado, nem declaração de suporte, nem qualquer menção em qualquer publicação no blog da NVIDIA até 16 de novembro.

• Quanto vale o professor. O card afirma que o aluno foi destilado de um professor "MS-SUSReg-8B" da mesma família de arquitetura, e o arquivo de proveniência indica o run 8b_ms_susreg_n4_20261109 no passo 1200 do aluno. A base lançada Nemotron-Labs-Sigma-8B é descrita como sendo da mesma linhagem — mas o card da base não publica nenhum número, apenas uma referência ao artigo, portanto a perda de destilação não pode ser obtida comparando os dois cards lado a lado.

Screenshot of the nvidia/nemotron-labs-sigma collection page on Hugging Face, listing fourteen repositories: the 3B and 8B base and instruct models, distill variants at NFE 2, 4, 8 and 16 for both sizes, and self-speculative distill checkpoints for 3B and 8B, with the collection description reading continuous diffusion language models, base, instruct, few-step distilled and self-speculative variants.

• Se o checkpoint nfe16 é o melhor da família ou um artefacto de uma avaliação inacabada. Os seus números são os mais altos da ficha e os menos fiáveis, e a própria ficha o admite, o que é mais franqueza do que a maioria das notas de lançamento consegue.

Por que o lançamento discreto é a notícia

A NVIDIA lançou muita coisa neste outono — Bolt, Super VL, Transcribe, a linha Dory, tudo com posts de blog e páginas em build.nvidia.com. Sigma chega sem nada disso, da mesma organização, com um artigo, uma licença, quatro subcartões Model Card++ e um contador de cinco downloads. A leitura mais provável é que se trata de um lançamento de pesquisa deliberadamente mantido fora da superfície do produto: o uso pretendido do cartão é "pesquisa de geração sensível à latência, estudos de decodificação especulativa e paralela", que é a linguagem de um artefato de laboratório.

Para um leitor que está decidindo se deve se importar, a pergunta prática não é se o modelo é bom em abstrato — é se um LM de difusão contínua com 4 NFE, em contexto de 4K e sem uma stack de serving, supera o modelo autorregressivo que já está no seu pipeline. Responder a isso exige executá-lo, e a aritmética que faz valer a hora de GPU é simples: 6,4 tokens por forward pass, contra um de um decodificador padrão. Se isso sobrevive ao contato com sua carga de trabalho é exatamente o que o benchmark independente ausente teria lhe dito.

O OrcaRouter não serve esse checkpoint, e ele não vai aparecer com preço por token até que alguém construa um caminho de serving para uma arquitetura de difusão em blocos com número fixo de etapas — o modelo de custo não se mapeia para tokens de entrada e saída como o de uma API autorregressiva. O que está ativo no OrcaRouter é o conjunto de comparação: mais de 200 modelos autorregressivos atrás de uma única chave, ao preço de tabela do provedor sem margem, então a questão do Sigma pode ser respondida com base em uma referência real em vez de com base em um cartão. Roteá-los ambos por um único endpoint também é a maneira mais barata de manter o experimento fora do seu caminho de produção enquanto você decide.