MiniCPM-V 4.7 vs NVIDIA Nemotron 3.5 Super VL: el equipo más económico que realmente puede ejecutar cada uno

Ambos son modelos de visión y lenguaje de pesos abiertos, ambos son de mezcla de expertos y ambos comprimen los tokens visuales antes de que el modelo de lenguaje los vea. Por lo tanto, la decisión entre MiniCPM-V 4.7 35B-A3B y NVIDIA Nemotron 3.5 Super VL no es una decisión sobre arquitectura. Es una decisión sobre la máquina más pequeña que estás dispuesto a comprar y sobre qué te aporta esa máquina en páginas por hora. Con ese criterio de precio, los dos modelos caen en conversaciones de adquisición completamente distintas: uno funciona con una descarga de 21 GB en hardware que probablemente ya tienes, el otro requiere cuatro H100 en BF16 o una sola H200 en FP4. Este artículo hace las cuentas que las hojas de especificaciones dejan a tu cargo: nivel de memoria por nivel de memoria y página por página. La pila de visión se queda en tu hardware. La orquestación que la rodea no tiene por qué. Consulta el catálogo alojado Más de 200 modelos alojados con una sola clave, precio de lista trasladado con un margen del 0 %. Los fallos documentados de IA y los incidentes de agentes detrás de lanzamientos como este se recopilan en el Archivo de Incidentes de IA de OrcaRouter donde cada entrada incluye sus propias fuentes, gravedad, grado de confianza y marca de disputa.

Dos escaleras de cuantización, dos suelos muy distintos

OpenBMB y NVIDIA resolvieron el mismo problema —un modelo demasiado grande para el dispositivo en el que quieres ejecutarlo— en direcciones opuestas. MiniCPM-V 4.7 35B-A3B mantiene residente un pequeño conjunto activo y va cargando los expertos desde el almacenamiento, y luego distribuye todo el paquete en cada tamaño de GGUF para que elijas tu límite mínimo. Nemotron 3.5 Super VL mantiene el modelo completo residente y, en cambio, entrena un nivel de 4 bits (NVFP4) que reduce el requisito de memoria aproximadamente cuatro veces sin la penalización de una cuantización a posteriori.

• MiniCPM-V 4.7 35B-A3B, Q4_K_M — 21,2 GB en disco. Cabe en una GPU de consumo de 24 GB con un margen ajustado, o en un Mac de 32 GB con espacio de sobra.

• MiniCPM-V 4.7 35B-A3B, Q8_0 / F16 — 36,9 GB / 69,4 GB. Una tarjeta de 48 GB o una estación de trabajo de 96 GB, dependiendo de cuánto contexto quieras junto con los pesos.

• Nemotron 3.5 Super VL, BF16 — aproximadamente 231,8 GiB de pesos repartidos en 64 shards. La receta de servicio propia de NVIDIA es tensor-parallel 4 en 4x H100, o TP2 en 2x GB200.

• Nemotron 3.5 Super VL, NVFP4 — se despliega en 1x DGX Spark, 1x H200, 2x H100 o 1x GB200, según su ficha del modelo.

Esa última línea es la cifra que cambia la conversación de compra. Un modelo de 120B en una H200 en lugar de cuatro H100 no es un ahorro marginal; es la diferencia entre una reserva de clúster y un único nodo. Y como NVIDIA realiza la conversión a 4 bits durante el entrenamiento con destilación con conocimiento de cuantización en lugar de a posteriori, afirma que no hay sobrecarga de inferencia — una afirmación que la tarjeta declara pero no respalda con un delta de precisión publicado entre BF16 y NVFP4.

Páginas por hora, que es el número que lo decide todo

El rendimiento en tokens por segundo es un mal indicador del trabajo con documentos, porque el costo de una página está dominado por cuántos tokens visuales emite el codificador antes de que el modelo de lenguaje diga una palabra. Aquí es donde los dos diseños divergen con mayor nitidez y donde el lenguaje de marketing resulta menos útil.

MiniCPM-V 4.7 35B-A3B comprime dentro de la torre de visión, mediante una técnica de compresión temprana que OpenBMB atribuye a LLaVA-UHD v4, con un submuestreo mixto de 4x y 16x. El valor predeterminado es 16x; 4x es la ruta de detalle fino, que se elige para cada imagen. Una página densa de texto recibe la ruta económica, un diagrama de piezas recibe la costosa. La compresión ocurre antes de que intervenga el modelo de lenguaje, que es precisamente lo que hace viable un modelo de 35B en un teléfono.

Nemotron 3.5 Super VL no apuesta por la compresión como argumento principal. Su respuesta es el contexto: hasta un millón de tokens, entrada de vídeo de hasta dos minutos y una capa híbrida Mamba-2 para evitar que una secuencia muy larga se vuelva cuadrática. Su receta de vídeo muestrea a 2 FPS y 256 fotogramas por defecto, y baja a 1 FPS y 128 fotogramas en 1080p — una política de muestreo más que un truco de compresión, y que puedes ajustar al alza si la carga de trabajo tiene movimiento denso.

La consecuencia práctica: MiniCPM-V 4.7 ofrece un coste fijo y bajo de tokens por página y te pide que aceptes la pérdida de detalle; Nemotron 3.5 Super VL te permite conservar el detalle y te pide que pagues por el contexto. Para la revisión de un contrato de cien páginas, el primero es más barato por página y el segundo es mejor en la página en la que la cláusula está en una nota al pie de 6 puntos. Para un vídeo quirúrgico de dos minutos, solo el segundo entra siquiera en consideración.

Uno de estos lanzamientos incluye cifras; el otro incluye gráficos.

Esta es la parte de la comparación que ninguna cantidad de aritmética de hardware puede corregir, así que corresponde aquí en lugar de quedar enterrada en una nota al pie.

La ficha del modelo de NVIDIA incluye una tabla comparativa de unas cuarenta filas y es inusualmente franca: nombra las líneas base y varias filas muestran al modelo perdiendo. Frente a Qwen3.5-122B-A10B, sus propias cifras sitúan MMLU-ProX en 76.91 frente a 83.2, tau2-bench telecom en 73.19 frente a 87.2, OCRBench v2 en chino en 59.15 frente a 67.3 y MathVision en 78.16 frente a 83.3. Gana en GPQA-Diamond por 89.52 a 86.7, en SWE-bench Pro por 51.78 a 44.9 y en CritPt por 10.86 a 1.1. Todas las cifras, incluidas las de las líneas base, se recopilaron mediante el propio arnés NeMo Gym de NVIDIA; la ficha lo dice directamente y publica notas de reproducibilidad. Ejecutado por el proveedor, etiquetado con honestidad y con las pérdidas incluidas.

La tarjeta de MiniCPM-V 4.7 incluye cinco gráficos de evaluación y ninguna tabla numérica. Las afirmaciones comparativas son direccionales: una puntuación global más alta en menos tiempo de inferencia que Qwen3.6 35B-A3B en modo Instruct, y mejoras sustanciales sobre Qwen3.5 0.8B para la variante de 1B. No hay ninguna puntuación por benchmark que citar, ninguna lista de líneas base que inspeccionar y ninguna ponderación publicada para el compuesto que se representa. Eso no es lo mismo que un modelo malo —la ingeniería está documentada en config.json y los pesos son verificables byte a byte—, pero sí significa que la mitad de precisión de esta comparación no se puede construir. Cualquiera que presente una tabla de puntuaciones de MiniCPM-V 4.7 frente a cifras de Nemotron 3.5 Super VL está leyendo el gráfico de un proveedor como si fuera una medición y la tabla del otro como si fuera neutral.

Las rutas de ejecución y cuál acaba pasándote factura

La historia de despliegue de MiniCPM-V 4.7 es un menú: SGLang, vLLM, llama.cpp y Ollama, una vía OpenVINO para CPU, GPU y NPU de Intel, ajuste fino mediante SWIFT y LLaMA-Factory, cuantización en GGUF, BNB, AWQ, GPTQ y FP8, y soporte desde el día 0 que se afirma para silicios de Rockchip, Houmo, Intel, AMD y Arm junto con iOS, Android y HarmonyOS. La amplitud es el producto. El costo de la amplitud es que nadie ha validado tu combinación concreta, y la ruta upstream actual de llama.cpp tiene un defecto activo: las posiciones de los marcadores de imagen se calculan de forma incorrecta, por lo que las coordenadas devueltas quedan sistemáticamente bajas cuando preguntas dónde está algo. Hay una corrección probada abierta y sin fusionar a fecha de 20 de octubre.

La historia de Nemotron 3.5 Super VL es limitada y profunda: vLLM con una etiqueta de imagen fijada y SGLang con una etiqueta fijada, con Multi-Token Prediction integrado en la arquitectura para que no se necesite un drafter independiente. La ficha especifica las versiones porque las versiones son la combinación validada. Desviarse de ellas es cómo un despliegue que funciona se convierte en una sesión de depuración.

Si estás eligiendo hardware para que se ajuste al modelo, elige MiniCPM-V 4.7. Si estás eligiendo un modelo para que se ajuste al hardware que ya tienes, elige Nemotron 3.5 Super VL y sigue exactamente las versiones de su ficha.

Dónde encaja un router en una arquitectura de dos cajas

El patrón que aparece en producción no es una elección entre estos dos. Es un modelo pequeño en el dispositivo o en el equipo local haciendo trabajo que debe ser instantáneo y privado, y un modelo grande encargándose del trabajo que debe ser correcto. MiniCPM-V 4.7 35B-A3B está construido para el primer rol; Nemotron 3.5 Super VL está construido para el segundo, con una ventana de un millón de tokens y 12B parámetros activos para manejar documentos largos y bucles agénticos.

Ejecutar ambos significa dos stacks de modelos, dos conjuntos de modos de fallo y —una vez que añades un modelo de texto para la orquestación que los rodea— tres. Ahí es donde OrcaRouter ayuda sin exagerar lo que es: ninguno de los dos checkpoints está en nuestro catálogo, porque ambos son pesos abiertos que alojas tú mismo, pero los modelos de texto y de código que los rodean sí lo están. Una sola clave para más de 200 modelos alojados, el precio de lista del proveedor se traslada sin margen del 0 % y conmutación por error automática cuando un upstream se degrada. El stack de visión se queda en tu hardware; el resto del pipeline deja de necesitar un contrato nuevo cada vez que añades una etapa.

Cuánto te cuesta equivocarte en cada uno

Compra la caja pequeña y descubre que necesitabas razonamiento sobre documentos largos, y habrás gastado unos miles de dólares y una semana. Compra cuatro H100 y descubre que la carga de trabajo consistía en recibos, y habrás gastado mucho más en capacidad que nunca utilizas. Esa asimetría es el verdadero argumento para empezar por el nivel barato e ir escalando — y es la razón por la que el lanzamiento en dispositivo merece la atención que está recibiendo, aunque su historia de benchmarks sea más débil.

El desempate, si tienes ambas cajas disponibles, es dónde viven los píxeles. Los fotogramas que no pueden salir del edificio van al modelo que se ejecuta dentro de él. Los fotogramas que necesitan un millón de tokens de contexto y un bucle de razonamiento van al que se construyó para eso, y aceptas las versiones fijadas del entorno de ejecución como precio de entrada.