
Nemotron-Labs-Sigma-distill-8B-nfe4 Chegou Sem Anúncio e Com Cinco Downloads
- GoogleNOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 por 1M de tokens · 90 tok/s
- AnthropicNOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 por 1M de tokens · 97 tok/s
- orcaNOVOOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNOVOOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 por 1M de tokens · 88 tok/s
- OrcaNOVOOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 por 1M de tokens · 133 tok/s
- OrcaNOVOOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 por 1M de tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 por 1M de tokens · 127 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 por 1M de tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligência
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 por 1M de tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligência
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 por 1M de tokens · 146 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Inteligência
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Inteligência
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 por 1M de tokens · 124 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Inteligência
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Inteligência
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 por 1M de tokens · 218 tok/s
A Hugging Face contabilizou cinco downloads de nvidia/Nemotron-Labs-Sigma-distill-8B-nfe4 nos últimos trinta dias, e zero curtidas, quando este texto foi escrito em 17 de novembro de 2026. Essa é toda a recepção até agora de um modelo de linguagem de 8 bilhões de parâmetros que a NVIDIA publicou seis dias antes. Não houve post no blog, listagem no build.nvidia.com, thread de lançamento, tabela de benchmarks em comunicado à imprensa. O próprio cartão do checkpoint data o lançamento em 11/12/2026; o primeiro commit do repositório é de 9 de novembro às 05:47 UTC, e a última edição nele foi em 16 de novembro, que reescreveu a conversão para preservar tensores de geometria fp32. Tudo abaixo foi extraído desse repositório, de seus arquivos de configuração e do relatório técnico que ele cita, e as partes que não estão confirmadas são sinalizadas como tal, em vez de preenchidas.
O repositório é a única fonte primária, e é incomumente explícito.
A maioria dos lançamentos discretos deixa um cartão provisório. Este não. Ele vem com um arquivo de proveniência, um manifesto de integridade do checkpoint com um SHA-256, um hash de integridade para o tokenizador, quatro subcartões do Model Card++ e uma configuração de geração que fixa o amostrador. Esse nível de registro é o que se obtém quando um modelo passou por um processo interno de lançamento e simplesmente não foi anunciado — os artefatos que um post de lançamento resumiria estão todos presentes, menos o post.
O artigo por trás disso é real e tem data: arXiv:2610.02665, Large Language Continuous Diffusion Models, um artigo da NVIDIA com dezessete autores cuja v2 foi publicada em 12 de novembro, o mesmo dia em que a ficha diz que os pesos chegaram. O artigo descreve o Nemotron-Labs-Sigma como a primeira família de modelos de linguagem de difusão contínua em larga escala, com 3B e 8B. A seção de avaliação da ficha atribui seus números às "estatísticas verificadas de dez sementes e seis tarefas da entrega de liberação restrita de 10 de novembro" — uma frase que revela que o arquivo estava circulando de forma privada por pelo menos dois dias antes de os repositórios públicos serem ativados.

O que está realmente no checkpoint
Tire a prosa e a ficha técnica fica curta. Cada linha abaixo é de config.json, generation_config.json ou do card:
• Backbone — um transformer decoder-only no estilo Ministral: 34 camadas, tamanho oculto 4.096, FFN 14.336, 32 cabeças de consulta e 8 cabeças de chave-valor com dimensão de cabeça 128, SwiGLU, RoPE com um bloco de escalonamento YaRN na configuração.
• Cabeça de geração — uma cabeça de difusão de embeddings contínuos de tokens de 16 dimensões, com a cabeça de leitura autorregressiva auxiliar mantida no checkpoint em vez de podada.
• Contagem de parâmetros — 8.0B pela nomenclatura do card, 9.03B pelo censo de safetensors (9,026,818,048 tensores BF16 mais 2,097,186 F32), 18.06 GB distribuídos em quatro shards. A diferença entre os dois números é a cabeça auxiliar.
• Contrato de decodificação — blocos de 32 tokens, exatamente 4 avaliações da função de denoising mais uma leitura, portanto 5 chamadas ao denoiser por bloco, o que equivale a 6,4 tokens gerados por passagem direta.
• Amostrador — o caminho nativo fresh_x0 com autocondicionamento transportado entre etapas, orientação sem classificador fixada em 1, temperatura de score fixada em 1.
• Contexto — 4,096 tokens para o prompt mais a geração. Apenas em inglês. Sem parada por EOS de token-ID; você para em strings ou em um orçamento de tokens.
• Ambiente de execução — PyTorch 2.4 ou superior, Transformers 4.55 ou superior, trust_remote_code, uma GPU CUDA em bfloat16. A CPU não é suportada explicitamente, e o cartão indica o motivo: o amostrador é numericamente degradado na CPU e produz saída inutilizável.
• Licença — a Licença de Modelo Aberto da NVIDIA (NVIDIA Nemotron Open Model License), que, segundo o cartão do modelo, permite uso comercial e não comercial. O cartão refere também, na secção de casos de uso, que o modelo funciona offline no seu hardware e que a NVIDIA não aloja qualquer serviço.
Essa última linha é importante para quem presumiu que existe um endpoint Sigma em algum lugar. Não existe. Não há nenhuma entrada Nemotron-Labs-Sigma no build.nvidia.com, e o modelo está ausente do catálogo do OrcaRouter, assim como o restante da linha Nemotron — então não há nada para chamar hoje, apenas algo para baixar.
Quatro checkpoints, quatro modelos diferentes
A nomenclatura faz as variantes parecerem um único modelo em quatro configurações. Não são: cada valor de NFE é um student destilado separadamente, e o card é categórico ao afirmar que a contagem de passos é fixada. “Esta variante é treinada apenas para NFE=4, e o código de inferência incluído intencionalmente não expõe uma substituição arbitrária do número de passos” — porque outras contagens de passos avaliariam endpoints de fase sobre os quais o student nunca foi treinado. Portanto, você não ajusta nfe4 para dois passos na inferência; você baixa o nfe2.
As médias publicadas das seis tarefas, todas com dez sementes e dois erros padrão, tornam o trade-off legível pela primeira vez nesta família:
• NFE 2 — GSM8K 80,17, MATH 55,72, HumanEval 48,17, MBPP 37,52; média das seis tarefas 53,02. 3 chamadas ao denoiser por bloco, 10,7 tokens por chamada.
• NFE 4 — GSM8K 86,86, MATH 61,52, HumanEval 60,61, MBPP 57,50; média das seis tarefas 66,36. 5 chamadas por bloco, 6,4 tokens por chamada.
• NFE 8 — GSM8K 88,44, MATH 64,40, HumanEval 65,18, MBPP 62,60; média das seis tarefas 70,34. 9 chamadas por bloco, 3,6 tokens por chamada.
• NFE 16 — GSM8K 89,61, HumanEval 67,68, MBPP 66,20, média das três tarefas 74,50. 17 chamadas por bloco, 1,9 tokens por chamada. E uma ressalva que as outras três não trazem: este checkpoint está marcado como pending_ten_seed_six_task_validation, seus números são uma única execução com seed 42 em três tarefas, e a ficha diz para tratá-los como provisórios e não diretamente comparáveis.
O formato dessa escada é a parte interessante. Dobrar os passos de 2 para 4 rende 13,3 pontos na média de seis tarefas. Dobrar de novo para 8 rende 4,0. Ir para 16 rende mais ~4 nas três tarefas que foram executadas — de uma avaliação diferente e mais fraca. Em outras palavras, a curva de destilação achata fortemente exatamente onde o modelo se torna competitivo, e o checkpoint nfe4 fica logo depois do joelho.

De onde vêm os números e onde eles param
Todos os números acima são da NVIDIA, produzidos pela NVIDIA, em seu próprio harness de avaliação da NVIDIA, e relatados com uma contagem de sementes que os faz parecer mais independentes do que são. Dez sementes com dois erros padrão é um protocolo sério — isso indica que a pontuação nfe4 HumanEval de 60,61 tem um intervalo de ±1,43, amplo o suficiente para que você não considere real uma diferença de dois pontos em relação a qualquer coisa. Mas dez sementes do mesmo harness não são dez laboratórios.
O que não existe até 17 de novembro: uma página do Artificial Analysis para qualquer modelo Sigma, qualquer entrada em um catálogo público de preços de modelos, qualquer suporte a vLLM ou SGLang, e qualquer reprodução por terceiros. A verificação é rápida e retorna vazia. O registro de modelos do vLLM no main não tem nenhuma arquitetura nemotron_labs_sigma; os pull requests do SGLang que mencionam difusão Nemotron são para a linhagem mais antiga Nemotron-Labs-Diffusion-8B e ainda estão abertos. O Transformers não tem um módulo nativo nemotron_labs_sigma, e é por isso que o card orienta a carregar com trust_remote_code e enviar o arquivo de modelagem de 40 KB do repositório junto com os pesos.
Então, o status honesto é: um checkpoint lançado com um protocolo de avaliação publicado e zero verificação externa. Esse é o estado normal para um modelo de linguagem de difusão em novembro de 2026, e não é uma crítica ao modelo — é uma descrição de quanto do cartão você pode usar para planejar.
Executá-lo é um script Python, não uma pilha de serving
O quickstart do card tem onze linhas: carregue o tokenizador e o modelo com código remoto, faça cast para bfloat16, chame generate com uma contagem máxima de tokens e strings de parada opcionais, e leia de volta a contagem de NFE que o modelo reporta. Não há template de chat neste repositório, nem prompt de sistema, nem chamada de ferramentas, nem modo JSON — o card diz claramente que se trata de prompting no estilo benchmark e que o modelo é o aluno destilado de um checkpoint base, não um assistente. Se você quiser conversação, a coleção traz uma variante instruct do modelo pai com 8.192 tokens de contexto.
Dois detalhes operacionais vão pegar qualquer um que só passe os olhos. Primeiro, a parada: não há parada EOS por token-ID, então uma requisição que nunca produza sua string de parada vai até o orçamento de tokens, e o orçamento é compartilhado com o prompt dentro de uma janela de 4.096 tokens. Segundo, a memória: 18 GB de pesos em bfloat16 antes de qualquer KV cache, em um modelo cujo único caminho suportado é código eager do PyTorch do próprio repositório — não há atenção paginada, nem batching contínuo, nem build quantizado na coleção. Uma única requisição em uma GPU é a configuração suportada hoje.
A vazão é o número que as pessoas vão querer, e o card não o fornece para este checkpoint. O card do modelo pai informa cerca de 120–140 tokens por segundo para 256 tokens gerados em uma H100 usando o amostrador DDPM com 32 etapas por bloco de 64 tokens. O nfe4 destilado faz 5 chamadas por 32 tokens em vez de 33 chamadas por 64, o que, pela contagem de chamadas, representa pouco mais de quatro vezes menos passagens forward por token — mas isso é aritmética sobre contagens de etapas, não uma medição deste checkpoint, e o card não publica nenhum número de tokens por segundo para ele.
O que não está confirmado
Três coisas que um post de lançamento teria esclarecido, e que esta versão não esclarece:
• Se a NVIDIA pretende isto como um produto ou um artefacto de investigação. A licença permite uso comercial e o cartão está redigido em linguagem de produto, mas não há endpoint alojado, nem declaração de suporte, nem qualquer menção em qualquer publicação no blog da NVIDIA até 16 de novembro.
• Quanto vale o professor. O card afirma que o aluno foi destilado de um professor "MS-SUSReg-8B" da mesma família de arquitetura, e o arquivo de proveniência indica o run 8b_ms_susreg_n4_20261109 no passo 1200 do aluno. A base lançada Nemotron-Labs-Sigma-8B é descrita como sendo da mesma linhagem — mas o card da base não publica nenhum número, apenas uma referência ao artigo, portanto a perda de destilação não pode ser obtida comparando os dois cards lado a lado.

• Se o checkpoint nfe16 é o melhor da família ou um artefacto de uma avaliação inacabada. Os seus números são os mais altos da ficha e os menos fiáveis, e a própria ficha o admite, o que é mais franqueza do que a maioria das notas de lançamento consegue.
Por que o lançamento discreto é a notícia
A NVIDIA lançou muita coisa neste outono — Bolt, Super VL, Transcribe, a linha Dory, tudo com posts de blog e páginas em build.nvidia.com. Sigma chega sem nada disso, da mesma organização, com um artigo, uma licença, quatro subcartões Model Card++ e um contador de cinco downloads. A leitura mais provável é que se trata de um lançamento de pesquisa deliberadamente mantido fora da superfície do produto: o uso pretendido do cartão é "pesquisa de geração sensível à latência, estudos de decodificação especulativa e paralela", que é a linguagem de um artefato de laboratório.
Para um leitor que está decidindo se deve se importar, a pergunta prática não é se o modelo é bom em abstrato — é se um LM de difusão contínua com 4 NFE, em contexto de 4K e sem uma stack de serving, supera o modelo autorregressivo que já está no seu pipeline. Responder a isso exige executá-lo, e a aritmética que faz valer a hora de GPU é simples: 6,4 tokens por forward pass, contra um de um decodificador padrão. Se isso sobrevive ao contato com sua carga de trabalho é exatamente o que o benchmark independente ausente teria lhe dito.
O OrcaRouter não serve esse checkpoint, e ele não vai aparecer com preço por token até que alguém construa um caminho de serving para uma arquitetura de difusão em blocos com número fixo de etapas — o modelo de custo não se mapeia para tokens de entrada e saída como o de uma API autorregressiva. O que está ativo no OrcaRouter é o conjunto de comparação: mais de 200 modelos autorregressivos atrás de uma única chave, ao preço de tabela do provedor sem margem, então a questão do Sigma pode ser respondida com base em uma referência real em vez de com base em um cartão. Roteá-los ambos por um único endpoint também é a maneira mais barata de manter o experimento fora do seu caminho de produção enquanto você decide.
