NVIDIA Nemotron Labs Dory 1.0 4B vs. Qwen 3.8: O 4B de pesos abertos contra a linha de três níveis da Alibaba

Comparar o N​VIDIA N​emotron Labs Dory 1.0 4B com o "Qwen 3.8" não é um confronto — é um descompasso de uma forma específica e instrutiva. O Qwen 3.8 não é um único modelo; na ponta de pesos abertos, ele é Qwen3.8-27B, um modelo multimodal denso de 27B sob Apache 2.0 com uma janela de 256K, e acima disso ele é Qwen3.8-Flash e Qwen3.8-Max, ambos maiores, ambos servidos apenas pela API da A​libaba. O Dory é um único checkpoint de 4B, somente texto, somente inglês, da N​VIDIA, publicado no Hugging Face em quatro quantizações sob a licença OpenMDW 1.1, com sua ficha marcada como "GA (10/16/2026)" e sem nenhum anúncio por trás. Portanto, a verdadeira questão não é se um 4B pode superar um 27B. É se um 4B de profundidade elástica que você mesmo hospeda é uma forma mais barata de alcançar o nível de tarefa que você, de outra forma, alugaria da linha Qwen3.8 — e os dois fatos mais relevantes para a decisão são que o Qwen3.8-27B tem pesos abertos, de modo que ambos os modelos rodam no seu hardware, e que a própria ficha do Dory não traz benchmark algum contra qualquer modelo Qwen3.8.

O que está realmente sendo comparado

Comece pelo lado do Qwen, porque "Qwen 3.8" condensa três proposições diferentes.

Qwen3.8-27B é o modelo denso de linguagem e visão de pesos abertos da Alibaba, Apache 2.0, 27B parâmetros, 64 camadas, dimensão oculta de 5.120, com um contexto nativo de 262.144 tokens que, segundo a ficha técnica, é extensível até um milhão. Ele aceita texto, imagens e vídeo e retorna texto, usa uma arquitetura híbrida de Gated DeltaNet e Gated Attention em 16 blocos repetidos, e é disponibilizado no formato Transformers com suporte para vLLM, SGLang e TokenSpeed. Ele apresenta 90,3 no LiveCodeBench v6, 89,2 no GPQA Diamond, 79,5 no IFBench e 73,0 no Terminal-Bench 2.1, entre uma longa lista de resultados agênticos e de visão. Está público desde meados de agosto de 2026 e já foi baixado vários milhões de vezes.

Qwen3.8-Flash e Qwen3.8-Max são as camadas hospedadas. O Flash é o modelo multimodal otimizado para custo com um contexto de um milhão de tokens; o Max é o carro-chefe da Alibaba, também com um milhão de tokens, posicionado contra os modelos proprietários mais fortes. Nenhum deles tem pesos abertos. Você os acessa através de uma API.

N​VIDIA N​emotron Labs Dory 1.0 4B é o 4B. Denso, em loop, latente-recorrente — um bloco de entrada de 8 camadas, um bloco recorrente de 20 camadas aplicado um número variável de vezes, um bloco de saída de 8 camadas — com atenção híbrida intercalada de janela deslizante e atenção completa. Texto entra, texto sai, apenas inglês, contexto de 256K. Pré-treinado em 6 trilhões de tokens, os primeiros ~4,5 trilhões deles nativamente em NVFP4, mais uma extensão de contexto de 300 bilhões de tokens, depois SFT e GRPO em múltiplos ambientes. Não existe endpoint hospedado para ele que possamos verificar.

Um ponto que é importante acertar, porque confunde muita gente: a NVIDIA distribui o Dory em BF16, MXFP8, NVFP4 e Q5_K_M GGUF. O id canônico do repositório é o do MXFP8, mas os benchmarks no card foram medidos em BF16. O MXFP8 é uma quantização dos mesmos pesos, não um modelo diferente.

O contraste da especificação

• Parâmetros — Dory 1.0 4B é um modelo denso de 4B, com um bloco recorrente aplicado repetidamente, de modo que a computação efetiva por token em quatro loops excede o número de parâmetros. Qwen3.8-27B é um modelo denso de 27B com uma torre de visão. Eles não estão na mesma categoria de peso, e apenas um deles cabe em uma implantação com pouca memória.

• Modalidade — O Qwen3.8-27B aceita imagens e vídeo, além de texto. O Dory aceita texto. Qualquer carga de trabalho que inclua uma imagem termina aqui.

• Contexto — ambos anunciam 256K. O cartão do Qwen3.8-27B diz posições nativas de 262.144, extensíveis para aproximadamente um milhão; o da Dory diz até 256K, com 262.144 validados no vLLM sob o comando de lançamento fornecido. Qwen3.8-Flash e Max alcançam um milhão de tokens de imediato.

• Licença — Apache 2.0 para Qwen3.8-27B, OpenMDW 1.1 para Dory. Ambas são favoráveis ao uso comercial; a Apache 2.0 é o texto mais familiar.

• Idiomas — Qwen3.8-27B é multilíngue por linhagem; Dory é apenas em inglês, com 43 linguagens de programação em sua mistura de pré-treinamento.

• Comportamento de computação — esta é a única linha em que a Dory tem algo que o Qwen3.8-27B estruturalmente não pode oferecer. A profundidade da Dory é um parâmetro de serving: um loop para latência, dois como padrão recomendado da NVIDIA, quatro quando a precisão agêntica importa mais, tudo a partir de um único checkpoint, com um modo de cache KV no último loop destinado a manter a memória de cache aproximadamente no tamanho de um loop, independentemente da contagem de loops. O Qwen3.8-27B tem profundidade fixa; suas alavancas são quantização e hardware.

• Formatos — a Dory oferece quatro quantizações, incluindo um GGUF para llama.cpp. O Qwen3.8-27B tem um repositório FP8 separado e um ecossistema derivado muito grande de quantizações e finetunes, que é o que vários milhões de downloads lhe rendem.

A questão de benchmark que a própria tabela da N​VIDIA contorna

Aqui está o detalhe desconfortável. A tabela de benchmark da N​VIDIA para o Dory compara-o com Q​wen3.5-4B, Q​wen3.5-9B, Gemma 4 26B A4B e Q​wen3.6-35B-A3B. Ela usa as duas gerações anteriores do Q​wen e nunca recorre ao Q​wen3.8. Essa é uma escolha defensável para um 4B — o Q​wen3.8-27B é quase sete vezes maior — mas significa que o fabricante não tem nenhum confronto direto publicado contra a geração atual do Q​wen, em nenhuma direção. A ficha do Q​wen3.8-27B da A​libaba, por sua vez, compara-se com a fronteira proprietária, e não com um 4B.

O que o card da Dory de fato publica, em relação a seus comparadores mais antigos, é honesto sobre onde o looping compensa. Percorra suas três configurações de loop em comparação com Qwen3.5-4B e Qwen3.5-9B:

• SWE-bench Verified — 50,3 / 59,5 / 61,8 contra 54,7 e 61,0. Com quatro loops, Dory supera nominalmente o Qwen 9B nesta linha.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 contra 15 e 24. Perde para ambos, incluindo o 4B.

• τ³-bench (Bancário) — 11,6 / 12,89 / 14,69 contra 5,03 e 7,22. Dory mais do que duplica o Q​wen 4B e aproximadamente duplica o 9B.

• GPQA Diamond, sem ferramentas — 69,19 / 72,41 / 72,16 contra 77,71 e 80,93. Perde para ambos.

• IFBench — 74,29 / 77,94 / 79 contra 53,83 e 59. Uma grande vitória no cumprimento de instruções.

• AA-LCR — 63 / 71 / 73 contra 64,7 e 68,4. A recuperação de contexto longo melhora acentuadamente com loops e termina à frente.

• AA-Omniscience — 10,03 / 10,08 / 10,03 contra 15,02 e 18,05. O conhecimento armazenado quase não muda com a contagem de loops, o que é o teste de sanidade que o restante da tabela passa.

Todos esses números são da N​VIDIA, medidos no harness da N​VIDIA, com contagens de repetição divulgadas — SciCode oito execuções, AA-LCR dezesseis, vários benchmarks exatamente uma vez — e a ficha rotula suas pontuações no formato do Artificial-Analysis como "estimativas internas" que podem divergir das oficiais. Nada disso é reproduzido.

Agora coloque o card do Qwen3.8-27B ao lado dele. Seus números relatados — 89,2 no GPQA Diamond, 79,5 no IFBench e 73,0 no Terminal-Bench 2.1 — estão todos acima dos melhores números da Dory nos mesmos benchmarks, o que é exatamente o que você esperaria de um modelo sete vezes maior e com um pipeline de treinamento duas gerações mais recente. Não existe cenário em que um 4B supere um 27B bem executado em um benchmark de conhecimento ou raciocínio, e a Dory não afirma isso. O que a Dory afirma é outra coisa: que, com 4B, ela alcança um comportamento agêntico de aproximadamente a classe de 9B, e que você pode escolher quanta computação gastar nessa escala.

Implantação: a lacuna não está próxima, e não se trata de qualidade.

Qwen3.8-27B é um lançamento normal de pesos abertos. Formato Transformers, suporte listado para vLLM, SGLang e TokenSpeed, uma variante irmã FP8 e um ecossistema que produziu bem mais de mil quantizações e centenas de fine-tunes desde agosto. Se a sua stack executa modelos modernos de pesos abertos, ela executa este, e a única restrição real é a memória — 27B denso em BF16 não é um modelo para máquinas pequenas, mas as variantes quantizadas existem exatamente para isso.

Dory é o oposto. O suporte ao vLLM está em análise num pull request aberto; até que seja integrado, a NVIDIA indica que se instale o vLLM a partir desse branch com a flag de kernel pré-compilado e depois se inicie com overrides que configuram a contagem de iterações recorrentes e o modo de KV-cache. O suporte ao llama.cpp está num segundo pull request aberto, com um commit fixado e instruções de compilação para ARM64 macOS. Não existe nenhum endpoint alojado para o Dory em qualquer local que consigamos verificar, e os contadores de downloads dos quatro repositórios estavam a zero quando isto foi escrito. Os valores de velocidade publicados limitam-se a ganhos de velocidade devidos à quantização numa DGX Spark — 1,69× e 1,84× para MXFP8 em relação a BF16, 2,17× e 2,44× para NVFP4, dependendo da combinação de comprimentos de entrada/saída — e não ao throughput.

Em contrapartida, a alegação sobre memória na ficha da Dory é a única peça de engenharia que poderia justificar o inconveniente. O looping recorrente padrão armazena um cache KV separado por loop, de modo que a memória cresce a cada passagem. O modo de cache KV do último loop da Dory mantém um cache por camada de atenção recorrente e o sobrescreve a cada passagem, mantendo o consumo de memória aproximadamente no tamanho de um loop para qualquer número de loops, com precisão que a NVIDIA diz permanecer próxima da do modo por loop. Se isso se confirmar sob a medição de outra pessoa, um 4B com uma janela de 256K e quatro loops se torna prático em hardware que, de outra forma, não comportaria isso. Ninguém fora da NVIDIA verificou.

Onde o OrcaRouter realmente se posiciona nesta comparação

Esta é a rara comparação em que podemos ser específicos, porque os dois lados estão em condições diferentes aqui. O lado Qwen está no nosso catálogo: qwen/qwen3.8-27b é auto-hospedado na própria infraestrutura da OrcaRouter, e qwen/qwen3.8-flash e qwen/qwen3.8-max estão acessíveis como endpoints hospedados, tudo através de uma única chave de API pelo preço de lista do provedor com 0% de markup. O lado da NVIDIA não está — NVIDIA Nemotron Labs Dory 1.0 4B não está no catálogo e não tem endpoint hospedado em nenhum lugar que possamos confirmar.

Essa assimetria é genuinamente útil, e não incômoda. O argumento a favor de um modelo pequeno auto-hospedado é um argumento de custo, e um argumento de custo precisa do preço de aluguel contra o qual está argumentando. Os três níveis do Qwen3.8 têm preços muito diferentes — 27B a US$ 0,33 por milhão de tokens de entrada e US$ 2,40 por milhão de saída, Flash a US$ 0,15 e US$ 0,47, Max a US$ 2,00 e US$ 6,00 —, então a versão honesta de "um 4B pode substituir isto" tem três respostas diferentes, dependendo de qual nível você está realmente usando hoje. Uma única chave do OrcaRouter alcança todos os três, então precificar essa pergunta não exige três contas. Como repassamos o preço de tabela do provedor sem markup, uma mudança de preço do Q​wen chega aqui no mesmo dia. E quando você escolhe um nível, o failover automático entre provedores e a DSL de roteamento — que permite compor modelos por trás de uma única chamada — fazem com que a troca de um Q​wen hospedado para um Dory auto-hospedado, ou vice-versa, seja uma mudança de configuração em um único ponto de chamada, em vez de uma refatoração. Nós não oferecemos o Dory; somos a forma barata de medir o que ele estaria substituindo.

O veredito

Se sua carga de trabalho for multimodal, multilíngue ou intensiva em conhecimento — qualquer coisa em que o modelo precise saber coisas em vez de fazer coisas — o Qwen3.8-27B é a resposta de pesos abertos e a comparação não é competitiva. Ele tem sete vezes o tamanho, é duas gerações mais novo, respaldado por um grande ecossistema de derivados, roda em engines que já o suportam, e seu próprio card afirma números que o Dory não chega perto no GPQA ou em benchmarks de instrução. Alugue o Flash ou o Max, em vez disso, se você preferir não hospedar um 27B de forma alguma.

Dory 1.0 4B é uma aposta em um eixo diferente. Vale a pena o atrito de construir a partir de um branch somente se três coisas forem verdadeiras para você: a tarefa é somente texto e somente inglês, é agêntica em vez de orientada a conhecimento, e você realmente usaria um dial de computação — executando um loop sob carga e quatro quando a precisão importa, a partir de um único checkpoint, sem um segundo download. Seu card afirma que essa aposta compensa no τ³-Bench e no seguimento de instruções em 4B, e divulga o suficiente sobre como esses números foram produzidos para permitir que você os desconte adequadamente.

O que resolveria a questão é o teste que ninguém fez: Dory 1.0 4B contra Qwen3.8-27B em um mesmo harness, na mesma quantização, em um conjunto de tarefas agênticas. A tabela da NVIDIA pula completamente a geração atual do Qwen, e a tabela da Alibaba não olha para uma classe de peso inferior. Até que alguém publique essa comparação, a posição correta é que um desses modelos é um 27B comprovado, com suporte e amplamente implantado, e o outro é um repositório de 4B que surgiu da noite para o dia com uma ideia interessante nele — e a única pessoa que pode dizer se a ideia vale o esforço de construção é você, no seu conjunto de tarefas.

Nada disso é hipotético: as falhas de IA documentadas e os incidentes com agentes por trás de lançamentos como este estão reunidos no Arquivo de Incidentes de IA da OrcaRouter, onde cada entrada traz as suas próprias fontes, gravidade, grau de confiança e sinalização de contestação.