
Nemotron-Labs-Sigma-distill-8B-nfe4 vs Nemotron-Labs-Sigma: Mesma Linhagem de Pesos, Dois Contratos de Decodificação
- GoogleNOVOGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 por 1M de tokens · 90 tok/s
- AnthropicNOVOAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 por 1M de tokens · 97 tok/s
- orcaNOVOOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNOVOOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 por 1M de tokens · 88 tok/s
- OrcaNOVOOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 por 1M de tokens · 133 tok/s
- OrcaNOVOOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 por 1M de tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 por 1M de tokens · 127 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 por 1M de tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 por 1M de tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Inteligência
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 por 1M de tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Inteligência
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 por 1M de tokens · 146 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Inteligência
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Inteligência
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 por 1M de tokens · 124 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Inteligência
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Inteligência
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 por 1M de tokens · 218 tok/s
O que confunde no Nemotron-Labs-Sigma-distill-8B-nfe4 é que ele não é um Nemotron-Labs-Sigma-8B melhor. É um arquivo diferente, com um contrato diferente, produzido a partir de um professor da mesma linhagem, e a diferença entre os dois não está na precisão — está em quantas vezes a rede é executada para emitir uma palavra. O 8B base foi publicado em 5 de outubro de 2026 como um modelo de pesquisa pré-treinado: 8,49B de parâmetros, etapas de remoção de ruído configuráveis, orientação sem classificador que você precisa ajustar manualmente e um cartão que não publica nenhuma pontuação e, em vez disso, remete a arXiv:2610.02665. O nfe4 destilado chegou em 12 de novembro de 2026 com 9,03B de parâmetros, uma contagem de etapas gravada no checkpoint e a única tabela por benchmark que a NVIDIA colocou em um cartão Sigma. Ambos são apenas em inglês, ambos têm limite de 4.096 tokens e ambos estão sob a mesma licença. A escolha entre eles é uma escolha sobre como você quer que o modelo use seu poder computacional.
O que realmente difere, arquivo por arquivo
Ambos os repositórios trazem o mesmo model_type — nemotron_labs_sigma — e ambos são carregados da mesma forma, com trust_remote_code e um arquivo de modelagem de 40 KB do repositório. As configurações diferem de maneiras que importam na inferência e quase não diferem no backbone:
• Backbone — formato idêntico em ambos: 34 camadas, tamanho oculto de 4.096, FFN de 14.336, 32 cabeças de consulta e 8 cabeças de chave-valor, SwiGLU, RoPE, vocabulário de 131.072 tokens.
• Parâmetros — 8,49B (8.489.947.136 BF16 mais 2.097.186 F32) para o modelo base, 9,03B (9.026.818.048 BF16 mais a mesma quantidade de F32) para o destilado. Os 537M extras são a cabeça de leitura autoregressiva auxiliar que o destilado mantém ao lado da cabeça de difusão.
Pesos no disco — 16,99 GB contra 18,06 GB, quatro fragmentos cada.
• Contexto — 4.096 tokens tanto para o base quanto para o destilado. A variante instruct na mesma coleção aumenta isso para 8.192 e adiciona um template de chat; nenhum dos modelos aqui tem um.
• Etapas — a base expõe steps e block_length no momento da chamada, e seu card publica uma tabela por orçamento; o distill não aceita nenhuma substituição.
• Orientação — o modelo base precisa de classifier-free guidance (3,0 em 32 e 16 passos, 2,0 em 4) e de uma temperatura de score ajustada; o modelo destilado roda com CFG 1 e temperatura de score 1, ou seja, sem orientação e sem ajuste.
• Amostrador — a base está documentada para DDIM em uma grade log_snr com blocos de 64 tokens por padrão; o destilado usa fresh_x0 com autocondicionamento carregado entre etapas e blocos de 32 tokens.
O número de passos não é uma configuração no modelo destilado.
Esta é a frase no cartão do modelo que reformula toda a comparação: “O número de etapas de remoção de ruído é fixado pelo treinamento: esta variante é treinada apenas para NFE=4, e o código de inferência incluído intencionalmente não expõe uma substituição arbitrária do número de etapas (outras contagens de etapas avaliariam pontos finais de fase não treinados).”
O Phased DMD destila uma trajetória, e uma trajetória destilada tem pontos finais de fase em níveis de ruído específicos. Peça a um aluno de quatro passos que dê oito passos e você não estará executando-o mais devagar para obter melhor qualidade — estará pedindo que ele avalie em níveis de ruído nos quais nunca foi treinado. O card diz que a saída se degrada. Não há um ajuste.
O modelo base é o oposto. Seu card fornece a tabela — DDIM-32 com CFG 3 e temperatura de score 0,3, DDIM-16 com CFG 3 e 0,4, DDIM-8 com CFG 3 e 0,6, DDIM-4 com CFG 2 e 0,8 — e então acrescenta o aviso de que, abaixo de cerca de 16 passos, os modelos pré-treinados perdem qualidade de forma perceptível, e que a geração com poucos passos deve usar as variantes destiladas.
Lidas em conjunto, essas duas afirmações da mesma organização são uma divisão de trabalho: a base é o que você ajusta, o distill é o que você não ajusta. Se você quer um botão, pegue a base. Se você quer uma constante, pegue o distill.

A aritmética que os separa
Coloque os dois contratos nas mesmas unidades e a razão pela qual o arquivo destilado existe torna-se óbvia.
• Base na configuração recomendada — 33 chamadas do denoiser por bloco de 64 tokens (32 etapas mais uma leitura), o que equivale a 1,9 token por passagem direta.
• Base em 4 passos — 5 chamadas por bloco de 64 tokens, 12,8 tokens por passagem, mas o cartão avisa que a qualidade cai visivelmente abaixo de 16 passos.
• Destile nfe4 — 5 chamadas por bloco de 32 tokens, 6,4 tokens por passagem, com a qualidade que o cartão publica.
• Destilar nfe8 — 9 chamadas por bloco de 32 tokens, 3,6 tokens por passagem e 4 pontos melhor na média das seis tarefas.
Então, o nfe4 destilado fica entre o ponto de operação seguro da base e o inseguro: três vezes menos passagens diretas por token do que a configuração base recomendada, com uma contagem de etapas para a qual o modelo foi realmente treinado. Essa é toda a premissa do lançamento, e é uma premissa sobre computação, não sobre inteligência.
O que isto não é: uma taxa de transferência medida. O card base relata aproximadamente 120–140 tokens por segundo para 256 tokens gerados em uma única H100 com DDPM a 32 etapas por bloco de 64 tokens. O card destilado não publica nenhum número de tokens por segundo. As razões de contagem de chamadas acima são aritmética sobre contagens de etapas publicadas; trate-as como tal.
Qual deles tem números, e quanto valem
Aqui, os dois cartões divergem bruscamente, e em uma direção que é desconfortável para a base.
O Nemotron-Labs-Sigma-8B não publica nenhuma tabela de benchmark. Sua seção de avaliação consiste em duas frases dizendo que os resultados "são reportados no relatório técnico". Tudo o que você pode saber sobre sua acurácia precisa ser tirado do arXiv:2610.02665 — um artigo que abrange a família 3B e 8B, tanto base quanto destilada, e cujo resumo afirma que os modelos superam LMs de difusão mascarada e baselines autorregressivos, com os maiores ganhos consistentes em codificação.
O card do nfe4 destilado de fato publica números, com dez sementes e dois erros padrão: GSM8K 86,86 ± 0,28, MATH 61,52 ± 0,20, HumanEval 60,61 ± 1,43, HumanEval+ 57,99 ± 1,20, MBPP 57,50 ± 0,61, MBPP+ 73,70 ± 1,07, média das seis tarefas 66,36 ± 0,46. Nove dos dez valores de semente estão no intervalo de 42 a 51, portanto o protocolo está descrito com precisão suficiente para ser reproduzido.
Em conjunto, as fichas não permitem, portanto, dizer quanto custou a destilação. Esse é o número mais útil desta comparação e está ausente, porque a ficha do professor não tem uma tabela da qual subtrair. O artigo é o único lugar onde a afirmação existe, e sua formulação é direcional: aceleração de aproximadamente 8× em matemática e 4× em programação com destilação por correspondência de distribuição “com perda mínima de acurácia”. Esses multiplicadores são relatados no artigo, não nas fichas, e se referem aos experimentos da própria família, e não a uma comparação controlada dos exatos dois checkpoints no hub hoje.
Mais uma particularidade na própria linha distill: o irmão nfe16 está marcado como pending_ten_seed_six_task_validation. Sua média de 74,50 nas três tarefas vem de uma única execução seed-42, e o card diz para não compará-lo com as médias de dez seeds das outras variantes. Assim, “o maior é o melhor” é uma leitura que o card explicitamente se recusa a respaldar.
A terceira opção que ninguém nomeia
A coleção contém uma variante que não é nenhum dos dois modelos desta comparação e que, possivelmente, é o arquivo mais interessante dela: Nemotron-Labs-Sigma-distill-spec-8B. É o mesmo professor MS-SUSReg-8B, destilado com um objetivo adicional de aceitação e, em vez de rodar como um amostrador puro de poucos passos, ela rascunha um bloco de 32 tokens com sua cabeça de difusão e o verifica com sua própria cabeça autoregressiva. Cada rodada custa uma chamada de difusão, e os tokens aceitos são emitidos sem uma nova passagem direta. O card afirma que o texto retornado é exatamente a saída autoregressiva gulosa — a aceitação muda a vazão, nunca o conteúdo.
Os números de aceitação publicados, instantâneo único: comprimento médio aceito de 7,91 no HumanEval, 11,86 no GSM8K, 13,37 no MBPP, token bônus incluído, rodada de bootstrap excluída. Essas são medidas de throughput, não medidas de precisão, e não são comparáveis à tabela de precisão do nfe4 — uma distinção que o cartão destaca em negrito.
Na prática, esta é a variante a observar se a pergunta for “uma cabeça de difusão pode acelerar um modelo sem mudar o que ele diz”. Ela não é um substituto direto para qualquer um dos modelos desta comparação: precisa de generate_speculative, de ambas as cabeças e do autocondicionamento desativado.

Como escolher na prática
A decisão se resume a quatro verificações, e a primeira elimina um dos lados por completo para a maioria dos leitores:
• Você está pesquisando o próprio processo de amostragem — cronogramas de orientação, contagens de passos, direcionamento de trajetória, comportamento da orientação sem classificador? A base é o modelo, porque é ele que tem os controles e a tabela por orçamento.
• Você está construindo algo que gera texto a um custo fixo por token e não quer uma superfície de ajuste? O nfe4 distill é o modelo, porque CFG 1 e temperatura de score 1 é uma configuração completa.
{{1}}Você precisa de um assistente?{{/1}} Nenhum dos dois. Não há template de chat em nenhum dos repositórios, nem prompt de sistema, nem chamada de ferramentas, e o card base diz claramente que não é um seguidor de instruções. As variantes instruct com 8.192 tokens de contexto são as indicadas para isso.
• Você precisa de um benchmark que possa citar? Apenas o distill tem um, e é da própria NVIDIA.
Nenhuma das quatro perguntas menciona a contagem de parâmetros, o que é o indício de que não se trata de uma comparação de tamanho. A diferença de 537M parâmetros é o preço de manter a cabeça autorregressiva no arquivo, e não traz nenhum benefício para o caminho de difusão puro do nfe4 — ela está lá porque a mesma arquitetura também serve de base para a variante spec.
O objetivo do par
A NVIDIA construiu um backbone e o lançou duas vezes: uma como algo para estudar e outra como algo para executar. Essa é uma estratégia coerente, e é o motivo pelo qual os dois cards soam tão diferentes — o card base é escrito para um pesquisador que vai alterar o sampler, o card destilado para um desenvolvedor que não vai.
O que ainda falta ao par é justamente aquilo que permitiria avaliar a troca com honestidade: uma pontuação do professor. Enquanto o card base de 8B não trouxer a mesma tabela de seis tarefas que o destilado traz, toda afirmação sobre o que a destilação proporcionou será uma afirmação sobre os experimentos em nível de família do artigo, e não sobre esses dois arquivos. Se a NVIDIA adicionar essa tabela — e a última edição do card base em 16 de novembro sugere que os repositórios ainda estão sendo mantidos —, esta comparação se torna uma subtração em vez de uma reconstrução.
Por enquanto, a leitura prática é estreita e útil: escolha a base se quiser explorar como um LM de difusão contínua se comporta sob diferentes orçamentos de etapas, escolha o nfe4 se quiser 6,4 tokens fixos por passagem forward com uma precisão publicada, e pule ambos se precisar de um modelo de chat ou de uma janela de contexto maior que um memorando longo. Nenhum dos dois está no catálogo do OrcaRouter hoje, e nenhum estará até que exista um caminho de serving para uma arquitetura de difusão em blocos — o que o OrcaRouter oferece são os mais de 200 modelos autorregressivos com os quais você compararia qualquer um deles, sob uma única chave, ao preço de tabela do provedor, sem markup, e com failover automático se quiser isolar o experimento do caminho de produção.

