NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: Três Vezes os Parâmetros, Nenhum Trabalho Igual

A forma óbvia de ler uma comparação entre NVIDIA Nemotron Labs Dory 1.0 4B e Gemma 4 12B é como uma disputa de tamanho — 4B contra 12B, pequeno contra médio — e esse enquadramento desperdiça a comparação, porque os dois modelos não aceitam as mesmas entradas, não têm a mesma postura de licenciamento e não ficam mais rápidos da mesma forma. Dory é uma rede somente texto, somente inglês, com loop, cuja característica definidora é que um único download atende a vários orçamentos de computação. Gemma 4 12B é um modelo multimodal de qualquer para qualquer que recebe texto, imagens e áudio por meio de uma única pilha sem encoder e retorna texto. A diferença de parâmetros é real, mas é a diferença menos informativa entre eles. Eis o que realmente separa os dois, incluindo as partes em que ninguém ainda executou o experimento.

O que cada um é, em uma única passagem

O NVIDIA Nemotron Labs Dory 1.0 4B é um modelo denso de 4B treinado pela NVIDIA e publicado no Hugging Face em quatro quantizações — BF16, MXFP8, NVFP4 e um Q5_K_M GGUF — sob a licença OpenMDW 1.1. A ficha do modelo registra a build como "GA (10/16/2026)". Aceita texto na entrada e devolve texto na saída, somente em inglês, com até 256K tokens de contexto. A arquitetura é o ponto: um bloco recorrente de 20 camadas aplicado um número variável de vezes entre um bloco de entrada de 8 camadas e um bloco de saída de 8 camadas, de modo que a contagem de loops se torna uma opção ajustável em tempo de serving, em vez de uma decisão em tempo de treinamento. A NVIDIA recomenda dois loops como padrão e quatro quando a precisão agêntica importa mais. Nada sobre o lançamento foi anunciado; os repositórios foram populados da noite para o dia e o fabricante não publicou nenhum post de acompanhamento.

G​emma 4 12B é o modelo multimodal denso de 11,95B da G​oogle DeepMind, Apache 2.0, contexto de 256K, 48 camadas com atenção híbrida e uma janela deslizante de 1024 tokens, e um vocabulário de 262K. É descrito como isento de codificadores (encoder-free): as patches de imagem e as formas de onda de áudio são projetadas diretamente no espaço de embedding do modelo de linguagem, em vez de passarem por codificadores de visão e de áudio separados. Texto, imagem e áudio à entrada; texto à saída. O vídeo é tratado como fotogramas amostrados, com o model card a limitar o áudio a cerca de 30 segundos e o vídeo a cerca de 60 segundos, a aproximadamente um fotograma por segundo. Suporta modos de pensamento configuráveis e uma função de sistema nativa, e é público e amplamente descarregado desde meados de 2026.

Um esclarecimento que vale a pena fazer antes que qualquer número apareça: o Dory é distribuído em quatro variantes, e aquela cujo id de repositório é citado com mais frequência é a build MXFP8, mas os benchmarks publicados pela NVIDIA foram medidos em BF16. O checkpoint MXFP8 é uma quantização dos mesmos pesos, não um modelo diferente.

O problema do benchmark: esses dois nunca foram executados um contra o outro

Esta é a parte que um artigo comparativo costuma varrer para debaixo do tapete, por isso vale a pena dizer sem rodeios. Não há um resultado de avaliação obtido com o mesmo harness para o Dory 1.0 4B e o Gemma 4 12B. A tabela de benchmarks da NVIDIA para o Dory compara-o com Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B e Qwen3.6-35B-A3B — ela recorre ao modelo 26B Gemma, não ao 12B, e não inclui o 12B de forma alguma. Os números publicados do Google para o 12B vêm de um harness diferente, contra um conjunto de comparação diferente, num documento publicado meses antes e que abrange uma mistura de tarefas diferente.

Colocar os números dos dois cartões lado a lado produz uma tabela que parece autoritativa e não significa nada, porque uma diferença de dois pontos entre dois harnesses não é uma diferença de dois pontos entre dois modelos. Então, a versão honesta é esta: o próprio cartão do Dory alega aproximadamente um comportamento agêntico da classe do Qwen3.5-9B em quatro loops, embora fique atrás de todos os seus próprios comparadores em benchmarks com muita carga de conhecimento, e o cartão do Gemma 4 12B alega um perfil multimodal com uma janela de 256K e variantes ajustadas por instrução em toda a linha Gemma 4. Não se sabe se qualquer uma das alegações sobrevive ao contato com o conjunto de tarefas do outro.

Onde eles realmente se sobrepõem, e onde a sobreposição termina

Quatro dimensões importam para uma decisão real, e elas apontam em direções diferentes.

• Modalidade — G​emma 4 12B aceita texto, imagens e áudio. Dory 1.0 4B aceita texto. Isso não é uma lacuna de benchmark que uma estrutura de avaliação poderia fechar; é uma capacidade que um modelo tem e o outro não, e se sua carga de trabalho tiver uma captura de tela, uma página digitalizada ou um clipe de voz em qualquer parte dela, a comparação está encerrada.

• Idioma — Dory é apenas em inglês. A linha do Gemma 4 é multilíngue, e seu card de 12B traz resultados de avaliação e de fala multilíngues, incluindo benchmarks de tradução para idiomas que não o inglês. Um segundo idioma em qualquer parte da produção desqualifica a Dory.

• Contexto — ambos anunciam 256K, e este é o único ponto em que as especificações realmente coincidem. O cartão do Dory diz que 262.144 posições são validadas no vLLM sob o comando de lançamento fornecido; o Gemma 4 12B declara 256K com uma janela deslizante de 1024 tokens dentro de uma pilha de atenção híbrida. Existe avaliação publicada de contexto longo para o Gemma; para o Dory, a única linha de contexto longo é a da própria NVIDIA, medida com gabaritos corrigidos e um modelo juiz mais antigo, o que o cartão divulga.

• Comportamento computacional — esta é a vantagem assimétrica da Dory e não tem nada a ver com qualidade. O Gemma 4 12B é um modelo denso convencional: profundidade fixa, custo fixo por token, aumente a escala do hardware ou encurte o contexto para alterar a conta. A profundidade da Dory é um parâmetro de runtime. Execute-a com um loop quando a latência for a restrição e com quatro quando for a precisão, sem baixar um segundo checkpoint. A NVIDIA também disponibiliza um modo de KV-caching de último loop destinado a manter a pegada de cache aproximadamente no tamanho de um loop, independentemente do número de loops, o que — se se confirmar — remove a objeção padrão às arquiteturas recorrentes. É a afirmação no cartão que mais merece uma verificação independente.

• Licença — OpenMDW 1.1 para Dory, Apache 2.0 para G​emma 4 12B. Ambas permitem uso comercial. Se a sua revisão jurídica considerar o Apache 2.0 o caminho de menor resistência, G​emma começa com uma vantagem que não tem nada a ver com os pesos.

Executando-os: um é rotina, o outro é um build

O Gemma 4 12B é um download padrão no formato da família Llama. Ele está no formato Transformers, roda nos motores que você já tem, e as builds quantizadas — as variantes QAT GGUF e w4a16 — são públicas desde pouco depois do próprio modelo.

O Dory 1.0 4B ainda não chegou lá, e o card diz isso sem rodeios. O suporte ao vLLM está "em revisão" em um pull request aberto; até que ele seja mesclado, você instala o vLLM a partir desse branch com a flag de kernel pré-compilado e depois passa overrides de loop-count e KV-cache no momento de servir. O suporte ao llama.cpp está em um segundo pull request aberto, e a NVIDIA fixa um commit específico em vez da head em constante mudança, o que é a escolha certa para uma configuração de referência, mas ainda significa compilar a partir do código-fonte. Não há endpoint hospedado para o Dory em nenhum lugar que possamos verificar — nem da NVIDIA nem de mais ninguém —, e os contadores de download dos quatro repositórios dele ainda estavam zerados quando isto foi escrito. O Gemma 4 12B, em contrapartida, foi baixado bem mais de um milhão de vezes no último mês e tem um ecossistema de finetunes e quantizações construído sobre ele. Essa lacuna de maturidade é, para a maioria das equipes, maior do que qualquer delta de benchmark em qualquer um dos cards.

As especificações de hardware são escassas de ambos os lados. Os únicos números de velocidade do Dory publicados pela N​VIDIA são ganhos de velocidade de quantização num DGX Spark — 1,69× e 1,84× para MXFP8 em relação a BF16, dependendo da combinação de entrada/saída, 2,17× e 2,44× para NVFP4 — não números de throughput. Para o G​emma 4 12B, a pergunta correspondente, VRAM a um determinado comprimento de contexto, pode ser respondida com base em um ano de medições da comunidade, e não a partir da placa.

Onde um roteador entra em cena, sinceramente

Nenhum destes modelos é algo que servimos, e dizer isso é mais útil do que sugerir o contrário. O N​VIDIA N​emotron Labs Dory 1.0 4B não está no catálogo do OrcaRouter e não tem endpoint hospedado em lugar nenhum; o G​emma 4 12B especificamente também não está no catálogo, embora seus irmãos maiores google/gemma-4-26b-a4b-it e google/gemma-4-31b-it estejam.

O que resta é a forma prática da decisão. Se você está escolhendo entre um 4B que precisa hospedar por conta própria e um 12B que pode alugar, o lado auto-hospedado carrega uma conta de GPU e um ônus operacional que o lado alugado não tem, e a única maneira de precificar isso com honestidade é rodar os dois contra o seu próprio conjunto de tarefas. O OrcaRouter é útil para a metade hospedada desse experimento: uma única chave de API alcança os modelos Google de pesos abertos que nós oferecemos, ao preço de tabela do provedor com 0% de markup, então a comparação não exige um segundo contrato nem um segundo SDK. O failover automático cobre a janela em que seu próprio pool de GPUs fica saturado no meio do benchmark, e a DSL de roteamento permite que uma chamada auto-hospedada e uma hospedada fiquem atrás de um único endpoint, então trocar de lado é uma mudança de configuração, não uma reescrita. Nada disso diz qual modelo vence. Isso remove a desculpa para não descobrir.

Então, qual deles?

Se sua tarefa for somente texto, somente em inglês e de contexto longo, e especialmente se for agêntica — chamadas de ferramentas, fluxos de trabalho em várias etapas, saída estruturada —, o Dory 1.0 4B é a aposta mais interessante e aquela cuja arquitetura lhe oferece algo que o 12B não pode oferecer: um dial de computação. Faça a aposta com os olhos bem abertos em relação à lacuna de maturidade, aos dois pull requests não mesclados, à ausência total de avaliação independente e ao fato de que o próprio card o coloca atrás de todos os comparadores em GPQA e HLE.

Se a sua tarefa envolve uma imagem, um som, um segundo idioma ou um prazo de produção dentro do próximo mês, o G​emma 4 12B é a resposta, e a comparação nunca esteve perto. Ele é um modelo maior, mais caro e mais capaz, com um ecossistema por trás dele e nenhuma etapa de build à sua frente.

O que se deve observar não é um número de benchmark — é se os pull requests do vLLM e do llama.cpp serão mesclados. No dia em que o Dory carregar a partir de um binário lançado, em vez de um branch, o lado de auto-hospedagem desta comparação deixa de ser um projeto e passa a ser uma mudança de configuração. Até lá, o veredito honesto é que um desses modelos é um produto e o outro é um repositório que surgiu da noite para o dia, e qual deles você quer depende inteiramente de você estar lançando ou testando.

Nada disso é hipotético: as falhas de IA documentadas e os incidentes com agentes por trás de lançamentos como este estão reunidos no Arquivo de Incidentes de IA da OrcaRouter, onde cada entrada traz as suas próprias fontes, gravidade, grau de confiança e sinalização de contestação.