MiniCPM-V 4.7 vs NVIDIA Nemotron 3.5 Super VL: O equipamento mais barato que realmente roda cada um

Ambos são modelos de linguagem e visão de pesos abertos, ambos usam mistura de especialistas e ambos comprimem tokens visuais antes que o modelo de linguagem os veja. A decisão entre MiniCPM-V 4.7 35B-A3B e NVIDIA Nemotron 3.5 Super VL, portanto, não é uma decisão sobre arquitetura. É uma decisão sobre a menor máquina que você está disposto a comprar e sobre o que essa máquina lhe rende em páginas por hora. Com esse critério de preço, os dois modelos entram em conversas de aquisição completamente diferentes: um roda a partir de um download de 21 GB em hardware que você provavelmente já tem, o outro exige quatro H100s em BF16 ou uma única H200 em FP4. Este texto faz a aritmética que as fichas técnicas deixam para você — nível de memória por nível de memória, e página por página. A pilha de visão fica no seu hardware. A orquestração ao redor dela não precisa ficar. Veja o catálogo hospedado Mais de 200 modelos hospedados em uma única chave, preço de tabela repassado com 0% de margem. As falhas de IA documentadas e os incidentes de agentes por trás de lançamentos como este estão reunidos em o OrcaRouter AI Incident Archive onde cada entrada traz suas próprias fontes, severidade, grau de confiança e indicador de contestação.

Duas escadas de quantização, dois pisos muito diferentes

OpenBMB e NVIDIA resolveram o mesmo problema — um modelo grande demais para o dispositivo em que você quer executá-lo — em direções opostas. O MiniCPM-V 4.7 35B-A3B mantém um pequeno conjunto ativo residente e transmite especialistas a partir do armazenamento, depois entrega tudo em todos os tamanhos GGUF para que você escolha seu limite mínimo. O Nemotron 3.5 Super VL mantém o modelo completo residente e, em vez disso, treina um nível de 4 bits (NVFP4) que reduz a memória necessária em cerca de quatro vezes sem penalidade de quantização pós-hoc.

• MiniCPM-V 4.7 35B-A3B, Q4_K_M — 21,2 GB no disco. Cabe em uma GPU de consumidor de 24 GB com uma margem apertada, ou em um Mac de 32 GB com folga.

• MiniCPM-V 4.7 35B-A3B, Q8_0 / F16 — 36,9 GB / 69,4 GB. Uma placa de 48 GB ou uma estação de trabalho de 96 GB, dependendo de quanto contexto você deseja junto aos pesos.

• Nemotron 3.5 Super VL, BF16 — aproximadamente 231,8 GiB de pesos distribuídos em 64 shards. A própria receita de serving da NVIDIA é tensor-parallel 4 em 4x H100, ou TP2 em 2x GB200.

• Nemotron 3.5 Super VL, NVFP4 — é implantado em 1x DGX Spark, 1x H200, 2x H100 ou 1x GB200, conforme sua ficha de modelo.

Essa última linha é o número que muda a conversa de compra. Um modelo de 120B em um único H200 em vez de quatro H100s não é uma economia marginal; é a diferença entre uma reserva de cluster e um único nó. E, como a NVIDIA faz a conversão para 4 bits durante o treinamento com destilação ciente de quantização, em vez de depois do fato, ela afirma não haver sobrecarga de inferência — uma afirmação que o material declara, mas não comprova com um delta de precisão publicado entre BF16 e NVFP4.

Páginas por hora, que é o número que decide tudo

A vazão em tokens por segundo é uma proxy ruim para trabalho com documentos, porque o custo de uma página é dominado por quantos tokens visuais o codificador emite antes que o modelo de linguagem diga uma palavra. É aqui que os dois designs divergem mais acentuadamente e onde a linguagem de marketing é menos útil.

O MiniCPM-V 4.7 35B-A3B comprime dentro da torre de visão, usando uma técnica de compressão precoce que a OpenBMB atribui ao LLaVA-UHD v4, com downsampling misto de 4x e 16x. O padrão é 16x; 4x é o caminho de detalhes finos, escolhido por imagem. Uma página densa de texto usa o caminho barato, um diagrama de peças usa o caro. A compressão ocorre antes do envolvimento do modelo de linguagem, que é precisamente o que torna um modelo 35B viável em um celular.

O Nemotron 3.5 Super VL não tem a compressão como principal argumento. Sua aposta é o contexto: até um milhão de tokens, entrada de vídeo de até dois minutos e uma camada híbrida Mamba-2 para evitar que uma sequência muito longa se torne quadrática. Sua receita para vídeo faz amostragem a 2 FPS e 256 quadros por padrão, caindo para 1 FPS e 128 quadros em 1080p — uma política de amostragem, e não um truque de compressão, e que você pode ajustar para cima se a carga de trabalho tiver movimento denso.

A consequência prática: o MiniCPM-V 4.7 oferece um custo fixo e baixo de tokens por página e exige que você aceite a perda de detalhes; o Nemotron 3.5 Super VL permite manter os detalhes e exige que você pague pelo contexto. Numa revisão de contrato de cem páginas, o primeiro é mais barato por página e o segundo é melhor na página em que a cláusula está numa nota de rodapé em fonte de 6 pontos. Num vídeo cirúrgico de dois minutos, só o segundo entra na conversa.

Um desses lançamentos vem com números; o outro vem com gráficos.

Esta é a parte da comparação que nenhuma quantidade de aritmética de hardware corrige, então ela pertence aqui, em vez de ficar enterrada em uma nota de rodapé.

O model card da NVIDIA traz uma tabela de benchmark com cerca de quarenta linhas, e é incomumente transparente: nomeia as baselines, e várias linhas mostram o modelo perdendo. Contra o Qwen3.5-122B-A10B, seus próprios números colocam o MMLU-ProX em 76,91 contra 83,2, o tau2-bench telecom em 73,19 contra 87,2, o OCRBench v2 Chinese em 59,15 contra 67,3, e o MathVision em 78,16 contra 83,3. Ele vence o GPQA-Diamond por 89,52 a 86,7, o SWE-bench Pro por 51,78 a 44,9 e o CritPt por 10,86 a 1,1. Todos os números, incluindo as baselines, foram coletados por meio do harness NeMo Gym da própria NVIDIA — o model card diz isso diretamente e publica notas de reprodutibilidade. Executado pelo fornecedor, rotulado com honestidade, com as derrotas mantidas.

A ficha do MiniCPM-V 4.7 traz cinco gráficos de avaliação e nenhuma tabela numérica. As alegações comparativas são direcionais: uma pontuação geral mais alta em menos tempo de inferência do que o Qwen3.6 35B-A3B no modo Instruct, e ganhos substanciais sobre o Qwen3.5 0.8B para a variante 1B. Não há pontuação por benchmark para citar, nenhuma lista de linhas de base para inspecionar e nenhuma ponderação publicada para o composto que está sendo representado. Isso não é o mesmo que um modelo ruim — a engenharia está documentada no config.json e os pesos são verificáveis byte a byte — mas significa que a metade de precisão desta comparação não pode ser construída. Qualquer pessoa que apresente uma tabela de pontuações do MiniCPM-V 4.7 contra números do Nemotron 3.5 Super VL está lendo o gráfico de um fornecedor como se fosse uma medição e a tabela do outro como se fosse neutra.

Os caminhos de execução, e qual deles vai te morder depois

A história de implantação do MiniCPM-V 4.7 é um menu: SGLang, vLLM, llama.cpp e Ollama, um caminho OpenVINO para CPU, GPU e NPU da Intel, ajuste fino via SWIFT e LLaMA-Factory, quantização em GGUF, BNB, AWQ, GPTQ e FP8, e suporte day-0 alegado para silício Rockchip, Houmo, Intel, AMD e Arm, além de iOS, Android e HarmonyOS. A amplitude é o produto. O custo da amplitude é que ninguém validou a sua combinação específica, e o caminho upstream atual do llama.cpp tem um defeito ativo: as posições dos marcadores de imagem são calculadas incorretamente, então as coordenadas retornadas ficam sistematicamente baixas quando você pergunta onde algo está. Uma correção testada está aberta e não mesclada até 20 de outubro.

A história do Nemotron 3.5 Super VL é estreita e profunda: vLLM em uma tag de imagem fixa e SGLang em uma tag fixa, com Multi-Token Prediction integrado à arquitetura, de modo que nenhum drafter separado é necessário. O card especifica versões porque as versões são a combinação validada. Desviar-se delas é o que transforma uma implantação funcional em uma sessão de depuração.

Se você está escolhendo hardware para se adequar ao modelo, escolha o MiniCPM-V 4.7. Se você está escolhendo um modelo para se adequar ao hardware que já possui, escolha o Nemotron 3.5 Super VL e siga exatamente as versões do card dele.

Onde um roteador se encaixa em uma arquitetura de dois equipamentos

O padrão que aparece em produção não é uma escolha entre esses dois. É um modelo pequeno no dispositivo ou na máquina local executando trabalho que precisa ser instantâneo e privado, e um modelo grande lidando com trabalho que precisa estar correto. O MiniCPM-V 4.7 35B-A3B foi criado para o primeiro papel; o Nemotron 3.5 Super VL foi criado para o segundo, com uma janela de um milhão de tokens e 12B de parâmetros ativos para suportar documentos longos e ciclos agênticos.

Executar ambos significa duas pilhas de modelos, dois conjuntos de modos de falha e — quando você adiciona um modelo de texto para a orquestração ao redor deles — três. É aí que o OrcaRouter ajuda sem exagerar o que ele é: nenhum dos checkpoints está no nosso catálogo, porque ambos são pesos abertos que você mesmo hospeda, mas os modelos de texto e de código que os cercam estão. Uma chave para mais de 200 modelos hospedados, preço de tabela do provedor repassado com 0% de margem e failover automático quando um upstream se degrada. A pilha de visão permanece no seu hardware; o restante do pipeline deixa de precisar de um novo contrato sempre que você adiciona uma etapa.

Quanto custa a você estar errado sobre cada um

Compre a máquina pequena e descubra que você precisava de raciocínio para documentos longos, e você terá gasto alguns milhares de dólares e uma semana. Compre quatro H100s e descubra que a carga de trabalho era recibos, e você terá gasto muito mais por capacidade que nunca usa. Essa assimetria é o verdadeiro argumento para começar na camada barata e escalar — e é por isso que o lançamento no dispositivo merece a atenção que está recebendo, embora sua narrativa de benchmarks seja mais frágil.

O critério de desempate, se você tiver as duas caixas disponíveis, é onde os pixels residem. Quadros que não podem sair do edifício vão para o modelo que roda dentro dele. Quadros que precisam de um milhão de tokens de contexto e de um loop de raciocínio vão para aquele que foi construído para isso, e você aceita as versões fixadas do runtime como o preço de entrada.