Nemotron 3.5 Super vs GPT-6 Astra: quanto custa uma página digitalizada em cada um

OpenAI GPT-6 Astra cobra um documento digitalizado por token. NVIDIA Nemotron 3.5 Super cobra por segundo de GPU. Essa única frase é a maior parte desta comparação, e não é a frase que qualquer um dos fornecedores colocaria numa manchete. O modelo da NVIDIA — 120 bilhões de parâmetros totais com 12 bilhões ativos por token, um codificador de visão C-RADIO sobre uma mistura híbrida de especialistas Mamba-2 e Transformer, anunciado pela NVIDIA em 15 de outubro de 2026 sob o nome NVIDIA Nemotron 3.5 Super VL e distribuído no Ollama como code>nemotron-3.5-super/code> — chegou ao mundo com seus pesos já com três dias de idade no Hugging Face, enviados em 12 de outubro. Astra é o carro-chefe da OpenAI: 1.050.000 tokens de contexto, 128.000 tokens de saída máxima, entrada de texto, imagem e arquivo, raciocínio sempre ativo, e um preço de tabela de US$ 10 por milhão de tokens de entrada e US$ 50 por milhão de saída.

Esses dois pontos de preço diferem por um fator de dez na entrada e vinte e cinco na saída, o que torna a pergunta interessante excepcionalmente afiada. A partir de qual volume um checkpoint aberto de custo fixo supera um medidor de $10/$50 para trabalho com documentos — e a resposta muda quando o documento é uma página de pixels em vez de uma página de texto?

Eles não estão competindo pela mesma solicitação.

A primeira coisa a esclarecer é que, em termos de capacidade medida, estes dois modelos não estão próximos, e nenhum fornecedor afirma o contrário.

• Índice de terceiros — A Astra situa-se em cerca de 54,7 no painel que avalia estes modelos, com um Índice de Programação de 76,9 e um Índice Agêntico de 51,6, todos registados na própria entrada de catálogo da Astra · o checkpoint da NVIDIA está em cerca de 26. Trata-se de uma diferença de cerca de vinte e oito pontos e não é medida por nenhum dos fornecedores.

• Contexto — 1.050.000 tokens para o Astra com um limite de saída de 128.000 tokens · 1.000.000 para o checkpoint da NVIDIA sem nenhum limite de saída publicado, e a própria ressalva do card de que as configurações de memória e de tempo de execução determinam o número utilizável.

• Superfície de raciocínio — A Astra executa raciocínio sempre ativo, com esforço configurável de baixo a máximo, retorna traços de raciocínio completos por meio da Responses API e oferece suporte a saídas estruturadas, seeds e pesquisa na web como ferramenta · o checkpoint da NVIDIA tem um modo de pensamento on/off alternado pelo template de chat e uma tabela de benchmark publicada, mas nenhuma superfície hospedada de qualquer tipo.

• Modalidade de entrada — texto, imagens e arquivos para o Astra · texto, imagens e vídeo para o checkpoint NVIDIA, com um projetor de visão de 1,6 GiB em cada tag publicada, de modo que o caminho de imagem esteja sempre presente.

• Preço — US$ 10 de entrada e US$ 50 de saída por milhão de tokens, com um nível de contexto longo acima de 272.000 tokens de prompt · sem preço, porque o modelo não tem endpoint.

• O que você recebe — uma chave de API e um trace · quatro H100s ou dois GB200s de BF16, ou uma placa de 96 GB para a tag padrão de 4 bits de 82,3 GiB, sob a OpenMDW-1.1 com uso comercial permitido.

Leia essa lista e a conclusão é óbvia: se o trabalho exige raciocínio de fronteira, a Astra é o modelo e a comparação acabou. O que torna esta página digna de leitura é o caso em que o trabalho não precisa de raciocínio de fronteira, porque é aí que um checkpoint de 120 bilhões de parâmetros com um codificador de visão começa a fazer sentido econômico — e é uma parcela maior dos pipelines de documentos reais do que qualquer um gosta de admitir.

A aritmética do custo por página, feita com números reais

Considere um trabalho concreto: um corpus de faturas digitalizadas, 200 páginas por dia, cada página renderizada numa resolução alta o suficiente para ler um número de referência manuscrito. Chamemos a isso 1.500 tokens de imagem por página, depois de o codificador fazer o seu trabalho, mais um prompt de 300 tokens e uma resposta de 150 tokens. Isso dá aproximadamente 1.950 tokens de entrada e 150 de saída por página, ou 390.000 tokens de entrada e 30.000 de saída por dia em todo o corpus.

Na tarifa publicada da Astra, são $3,90 de entrada e $1,50 de saída — cerca de $5,40 por dia, ou aproximadamente $160 por mês para um trabalho que uma única GPU consegue fazer da noite para o dia. Aumente a resolução, adicione uma página que dispara o nível de contexto longo acima de 272.000 tokens de prompt, ou processe o corpus duas vezes porque a primeira passagem estava errada, e o número se move em uma única direção. Esta é a forma do problema: a $10 e $50, um fluxo de trabalho por página tem uma conta por página, e a conta escala exatamente com aquilo que cresce — o número de páginas.

No checkpoint da NVIDIA, o mesmo trabalho custa a fração que for de uma hora de GPU que 230.000 tokens consomem, o que, a 200 páginas por dia, é um erro de arredondamento em comparação com a eletricidade. A conta é a placa, e a placa é a mesma quer você processe 200 páginas ou 20.000.

Três ressalvas antes que alguém corra para comprar hardware. A primeira é que isso deixa de ser verdade com pouco volume — uma placa de 96 GB e a energia para operá-la custam por mês mais do que a maioria das equipes gasta com tokens, e a 200 páginas por dia você provavelmente sairia no prejuízo. A segunda é que a quantização da NVIDIA que a maioria das pessoas realmente usará, q4_K_M, não tem avaliação publicada em lugar nenhum; todos os números na placa da NVIDIA são BF16 ou NVFP4, então a precisão da versão que você implantar é desconhecida. A terceira é que a saída da Astra é mensuravelmente melhor e, em um corpus onde um número de referência lido incorretamente representa um custo real, uma precisão melhor pode superar uma diferença de preço de qualquer tamanho.

Onde a Astra não é apenas melhor, mas estruturalmente melhor

Seria desonesto apresentar a Astra como uma alternativa cara a uma opção mais barata. Em diversos aspectos, ela é um produto de outra classe, e a diferença não está nas pontuações.

A Astra retorna traços de raciocínio completos por meio da Responses API. Para um pipeline que precisa justificar uma decisão — uma adjudicação de sinistro, uma leitura de conformidade, uma etapa de codificação médica —, um traço auditável não é um recurso, é o requisito. O checkpoint da NVIDIA tem um modo de pensamento que você pode ativar e desativar no template de chat e não tem nenhuma superfície de rastreamento hospedada, o que significa construir a camada de auditoria por conta própria.

O Astra oferece suporte a saídas estruturadas com um esquema e uma seed. Em um pipeline de extração de documentos em que a saída precisa estar em conformidade com um layout de registro, um modelo que pode ser restringido a um esquema é mais barato de integrar do que um em que você valida e tenta novamente, e o custo das novas tentativas é invisível até deixar de ser.

E a superfície de ferramentas da Astra é um produto first-party: chamada de funções, response_format, seed e pesquisa na web como ferramenta. A receita de implantação do checkpoint da NVIDIA reutiliza um parser de chamadas de ferramentas que ela não escreveu — a própria receita vLLM do fornecedor nomeia code>qwen3_coder/code> como o parser de chamadas de ferramentas e code>nemotron_v3/code> como o parser de raciocínio. Essa é uma escolha de engenharia sensata e também significa que a superfície de chamada de ferramentas é emprestada, em vez de projetada para este modelo, e precisará ser testada antes de ser confiada.

A receita do vLLM também informa o que o fornecedor espera que uma réplica suporte: paralelismo tensorial de 4, utilização de memória da GPU de 0,85, no máximo 32 sequências simultâneas, uma imagem e um vídeo por prompt, poda de vídeo em 0,5, e decodificação especulativa por meio da cabeça MTP integrada com três tokens especulativos. Trinta e duas sequências simultâneas é o teto em um nó com quatro GPUs. O teto da Astra é um limite de taxa.

A armadilha no padrão da NVIDIA e por que ela aparece primeiro em documentos

Este é o detalhe que vai decidir se o primeiro experimento terá sucesso, e só é visível se você ler o registro de runtime em vez da postagem do fornecedor.

O card especifica duas configurações de amostragem: temperatura 1.0 com top_p 0.95 para trabalho de texto, e temperatura 0.6 com top_p 0.95 para visão. O padrão distribuído no manifesto do Ollama é o par de texto — code>{"temperature": 1.0, "top_p": 0.95}/code> com code>draft_num_predict: 3/code>. Assim, a configuração sob a qual a maioria das pessoas vai encontrar este modelo de visão está ajustada para a metade dele que não é visão. Se a primeira coisa que você fizer com ele for apontá-lo para uma fatura digitalizada e o resultado vier vago ou alucinado, as configurações de amostragem são a primeira coisa a mudar — antes de você concluir qualquer coisa sobre o checkpoint.

Mais dois detalhes do registro que vale a pena saber antes de fazer o deploy. Quatro das nove tags publicadas — code>:latest/code>, code>:120b/code>, code>:120b-a12b/code> e code>:120b-a12b-q4_K_M/code> — apontam para a mesma camada q4_K_M, então a tag nomeada com a contagem total de parâmetros não é o arquivo que você recebe. E o gate de versão é imposto, não apenas recomendado: a configuração declara code>requires: 0.40.5/code>, então, em um runtime mais antigo, o pull não funciona de jeito nenhum.

Compare isso com o modo de falha do outro lado desta comparação, que é um endpoint alterado. A Astra é um serviço hospedado; seu comportamento pode ser revisado. Nenhum dos riscos é motivo para evitar o modelo. São riscos diferentes e exigem mitigações diferentes — uma mudança de configuração de um lado, uma rota de fallback do outro.

A resposta de roteamento, que é a mesma para ambos

Astra está na nossa chave. O OrcaRouter faz o roteamento pelo preço de lista do provedor, repassado sem markup por token — $10 e $50 por milhão de tokens, com o nível de contexto longo precificado exatamente como a OpenAI o precifica, disponível do nosso lado no mesmo dia, em vez de na sua próxima renovação. Se a pergunta é se a Astra dá conta da sua carga de trabalho com documentos, basta uma chave e nenhum processo de compra, e a resposta custa alguns dólares em tokens.

O checkpoint da NVIDIA não está na nossa chave. Roteamos um pouco mais de duzentos modelos e não há nenhuma entrada NVIDIA Nemotron entre eles, portanto este artigo não é uma alegação de que você pode chamá-lo aqui. Se você precisar desse checkpoint, os canais de build e distribuição da própria NVIDIA e o pull local são o seu caminho.

O propósito genuíno da plataforma nesta decisão é o sequenciamento. Execute o corpus no Astra primeiro e meça duas coisas: o custo por página e a taxa de erro por página. Esses dois números juntos decidem tudo. Se a taxa de erro for baixa e o volume for baixo, fique no medidor para sempre — você nunca conseguirá superá-lo com hardware. Se a taxa de erro for baixa e o volume for alto, agora você tem um argumento defensável para mover as páginas comuns para uma placa que você possui, mantendo as difíceis no medidor. Se a taxa de erro for alta, não há vantagem de preço do lado da NVIDIA que ajude, porque a aritmética de uma fatura lida incorretamente não tem a ver com tokens.

E, seja qual for o caminho que você seguir, roteie o novo modelo atrás de um fallback. Um checkpoint cujos pesos têm quatro dias de idade tem quatro dias de histórico operacional, e o seguro mais barato contra isso é um segundo modelo na mesma chamada. A Astra é uma coisa razoável de se ter atrás de um modelo aberto de quatro dias; ela também é o modelo que a maioria dos leitores desta página vai concluir que não precisa substituir.