Moondream 3.1 9B A2B vs North Micro Vision Instruct: ¿Qué proveedor te permite realmente comprobar el número?

Dos modelos de visión abiertos, con cuatro meses de diferencia y casi nada en común sobre cómo piden que se les juzgue. M​oondream 3.1 9B A2B se lanzó el 7 de julio de 2026 con una tabla de benchmarks, un pie de página de metodología que menciona una única H100 SXM5 y un tamaño de lote de 16, y un argumento que recorre esa misma publicación: que los benchmarks no miden lo que sus clientes realmente necesitan. North Micro Vision Instruct llegó el 12 de agosto de 2026 de C​ohere Labs con 2,4 B de parámetros bajo Apache 2.0, y su publicación de lanzamiento dedica toda su extensión al currículo de entrenamiento y a su configuración de evaluación — el arnés de evaluación utilizado y los parámetros de muestreo exactos con los que se generaron las cifras.

Eso es una verdadera diferencia de naturaleza, y es más útil para un comprador que el número de parámetros de cualquiera de los dos modelos. Un proveedor te dice cómo reproducir su tabla. El otro te dice que no confíes en las tablas y luego publica una. Ninguno ha sido evaluado de forma independiente, hasta donde hemos podido averiguar, así que la pregunta que realmente decide en qué conjunto de números apoyarse es cuánto te ha dado cada proveedor para que lo compruebes.

Lo que es cada uno

M​oondream 3.1 9B A2B es un modelo de visión-lenguaje de mezcla de expertos dispersa: 9B parámetros totales, 2B activos por token, 64 expertos con 8 activos, un codificador visual SigLIP con concatenación de canales multi-crop, un contexto de 32K tokens y un tokenizador SuperBPE. Sus cuatro habilidades — consulta, detección, señalización y subtitulado — se entrenan en lugar de indicarse mediante prompts, y las rutas de detección y señalización devuelven geometría estructurada en lugar de descripción. Se ejecuta en Photon, el motor de inferencia del proveedor, dirigido a GPUs N​VIDIA desde Ampere en adelante y Apple Silicon.

North Micro Vision Instruct es un modelo denso de 2.4B construido a partir de tres partes: un codificador de visión de resolución nativa de 400M preentrenado adicionalmente a partir del checkpoint SigLIP 2 SO400M de Google, un proyector que sigue el patrón DeepStack de inyectar incrustaciones de parches de varias capas del codificador en las capas tempranas del modelo de lenguaje, y un modelo de lenguaje de 2B llamado North Micro LLM que sigue la arquitectura Command A+ de Cohere. Toma texto e imágenes intercalados —una o varias— y produce texto. El vocabulario del tokenizador es de 262.144, y los idiomas enumerados llegan a once más «y más».

La diferencia en el tipo de salida merece decirse sin rodeos porque determina lo que sigue: M​oondream es un modelo de percepción que responde con cajas y coordenadas, North Micro Vision es un modelo de comprensión que responde con lenguaje. Todo lo que publica cualquiera de los dos proveedores es una medición de uno de esos dos trabajos, y no son el mismo trabajo.

El número 8K que no es la ventana de contexto del modelo

Empieza por la trampa, porque está justo en medio de la tarjeta del modelo North Micro Vision y es de esas cosas que terminan en una decisión de arquitectura por accidente.

• North Micro Vision Instruct — ventana de contexto del backbone lingüístico: 128.000 tokens; rango operativo multimodal validado de hasta 8.000 tokens. La ficha declara sin ambages que los contextos multimodales más largos pueden depender de la extrapolación y no se han evaluado con benchmarks.

• Moondream 3.1 9B A2B — 32.000 tokens, un solo número, sin excepción de modalidad publicada.

Así que la cifra destacada favorece a North Micro Vision por un factor de cuatro, y la cifra que realmente se aplicará a tu carga de trabajo de imágenes favorece a M​oondream por un factor de cuatro. Si estás calculando cuántas páginas de un documento escaneado caben en una sola llamada, 128K es el número equivocado y 8K es el correcto, y 8K de tokens intercalados de imagen y texto no son muchas páginas una vez que un codificador de resolución nativa empieza a emitir tokens en proporción al área de píxeles. El proveedor merece crédito por publicar la advertencia —la mayoría de las fichas no lo haría—, pero la advertencia está enterrada debajo de una tabla de especificaciones y la tabla es lo que se copia.

Cómo reportan los dos proveedores, lado a lado

Esta es la parte de la comparación que no tiene nada que ver con los modelos y que tiene todo que ver con cuál puedes auditar.

La publicación de M​oondream 3.1 indica sus líneas base (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), su métrica (F1@0.5 para detección), su hardware (una H100 SXM5), su tamaño de lote (16) y el hecho de que cada modelo fue servido por su propio motor — vLLM para LocateAnything, Qwen3.5 y Gemma 4; Photon para M​oondream; Hugging Face Transformers para SAM 3. También dice que se eligieron los ajustes de mayor precisión y razonamiento para cada modelo, y que LocateAnything se ejecutó en un modo lento para maximizar la precisión. Los resultados que publica son 81.46 F1@0.5 en COCO val, 93.94 en ODinW-13, 67.4 en LVIS, 74.61 en Dense200, 52.77 en SKU-110K, 74.5 en CrowdHuman, 87.1 en RefCOCO-M, 70.39 en HumanRef, 59.63 en DOTA-v2, 90.35 en CountBench, 74.86 en TallyQA, 88.68 en PixMo-Count, 86.01 en ChartQA y 88.6 en DocVQA, con afirmaciones de ser el estado del arte en cinco de las familias de benchmarks.

Lo que no aparece en ese pie de página es lo que hace que un resultado sea reproducible: los prompts. La detección es una tarea de vocabulario abierto, y la frase con la que pides algo cambia lo que se devuelve. Quien vuelve a ejecutar tiene la métrica, el hardware y el tamaño del lote, y aun así no puede reproducir el número sin saber qué texto produjo cada caja.

La publicación de Cohere Labs adopta el otro enfoque. Nombra el arnés de evaluación (VLMEvalKit), indica que el modelo se evaluó con una implementación interna de vLLM, enumera la composición de los benchmarks de cada grupo de capacidades —General VQA es un promedio de MMBench, MMStar, RealWorldQA y GQA; el grupo de gráficos, documentos y OCR abarca ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 y AI2D; grounding y counting son el promedio de RefCOCO y CountBench— y publica los parámetros de muestreo con los que se generaron las cifras: temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. También señala que el soporte público de vLLM "llegará pronto", lo cual es la divulgación honesta que más importa a cualquiera que planee reproducir los resultados: el modelo se probó en un fork.

Lo que esa publicación no publica es una tabla por benchmark. Sus resultados son promedios por grupo de capacidades y una afirmación relativa —en modo Instruct, 35B-A3B obtiene una puntuación más alta en menos tiempo de inferencia que Qwen3.6 35B-A3B, y la variante 1B supera a Qwen3.5 0.8B tanto en puntuación como en eficiencia—, lo cual es menos fácil de citar de inmediato y más robusto frente al sesgo de selección. Ninguno de los dos documentos te permite recalcular la cifra del otro proveedor. Ambos te dejan ver cuánto están ocultando.

Dónde se manifiesta en la práctica la diferencia de arquitectura

La resolución nativa es la única decisión de diseño en North Micro Vision que cambia el trabajo diario, y vale la pena entenderla antes de las tablas de benchmark. La mayoría de los codificadores de visión redimensionan lo que les des a un cuadrado fijo, y por eso una captura de pantalla de una hoja de cálculo ancha llega al modelo de lenguaje con sus columnas aplastadas. El codificador de North Micro Vision está entrenado para recibir la imagen con su propia resolución y relación de aspecto, preservando el detalle fino de documentos, tablas, gráficos y formularios. El currículo publicado pasó de una etapa fija de 384×384 con 10 millones de ejemplos a una etapa de 1024×1024 con 13 millones y más allá.

El codificador de M​oondream se basa, en cambio, en multi-crop: la imagen se trata como un conjunto de recortes cuyas características se concatenan, lo que también es una forma de preservar el detalle en entradas grandes y está acoplado a cómo su cabeza de detección produce las cajas. Ambas son respuestas legítimas al mismo problema y ningún proveedor publica una comparación directa a la misma resolución, así que lo útil que se puede extraer del debate sobre la arquitectura es más limitado que un veredicto: si tu trabajo consiste en documentos densos y capturas de pantalla anchas de UI, la resolución nativa es la propiedad que hay que probar, y la prueba es una captura de pantalla tuya, no una fila de benchmark.

La otra diferencia estructural son las imágenes múltiples y el vídeo. North Micro Vision Instruct gestiona entradas intercaladas de imágenes múltiples e incluye benchmarks de imágenes múltiples entre los grupos que evaluó. Moondream 3.1 9B A2B está limitado a una imagen por llamada: sin ruta de vídeo, sin ruta de imágenes múltiples. Eso es coherente con su diseño: los propios escritos de ingeniería de Moondream sobre vídeo en directo sostienen que el problema es la infraestructura de inferencia y no la capacidad del modelo, y la respuesta de la empresa a las cargas de trabajo temporales es un motor que sigue el ritmo de un flujo, en lugar de un checkpoint que ingiere una sola imagen. Si eso es una respuesta mejor que la de un modelo que toma 128 fotogramas a la vez es una pregunta abierta y honesta, y los dos proveedores no están midiendo lo mismo.

Despliegue y licencia, rápido

• Tamaño — 9B en total / 2B activos frente a 2,4B densos. En términos de almacenamiento, la brecha es más amplia de lo que sugiere la proporción de parámetros activos, porque la huella de un modelo disperso va en función de su total.

• Escala del ajuste fino: un modelo denso de 2.4B es lo suficientemente pequeño como para ajustarlo en un solo dispositivo; un modelo disperso de 9B requiere una configuración de entrenamiento real para cualquier cosa que vaya más allá de un LoRA, y por eso la propia ruta de ajuste de Moondream pasó por un producto alojado.

• Entornos de ejecución — North Micro Vision Instruct solicita Transformers 5.16.0 con accelerate y Pillow; existen cuantizaciones de la comunidad en MLX, LiteRT y formatos adyacentes a ONNX. Moondream 3.1 9B A2B se ejecuta en Photon, y el primer empaquetado GGUF de terceros del checkpoint apareció el 15 de octubre de 2026.

• Licencia — Apache 2.0 para North Micro Vision Instruct, sin umbral ni restricción para alojarlo para otros. La Moondream Model License 1.0 para Moondream 3.1 9B A2B: el uso comercial, el autoalojamiento, el ajuste fino, la cuantización y la redistribución están permitidos, con una única prohibición: no puede ofrecer la inferencia o el ajuste fino de Moondream de propósito general como servicio alojado.

• Churn — North Micro Vision Instruct ha permanecido estático desde su lanzamiento; las adiciones recientes destacables son cuantizaciones de terceros. Los términos de M​oondream cambiaron por debajo en las últimas dos semanas: Prime Intellect adquirió la empresa el 13 de octubre de 2026, y M​oondream Cloud, que incluye el producto de ajuste fino Lens, deja de funcionar el 13 de noviembre de 2026. Los pesos y Photon no se ven afectados; no es el caso de la ruta alojada.

El segundo modelo del pipeline, y quién lo enruta

Ninguno de estos checkpoints se sirve en OrcaRouter, así que interpreta esto como una nota de integración. Ambos son componentes de una sola etapa: uno devuelve cajas, el otro devuelve texto, y un sistema en producción necesita un modelo detrás de ellos para decidir qué significa la observación y para dejarla por escrito. Esa etapa es una etapa de texto, por lo general cuesta más por llamada que la etapa de visión, y es la etapa que querrás sustituir primero cuando aparezca un modelo de razonamiento más barato o mejor. Hacer ese cambio a través de un único endpoint compatible con OpenAI que abarca más de 200 modelos — con los precios de lista de los proveedores traspasados con un 0 % de recargo y conmutación automática por error entre proveedores cuando un upstream tiene una hora mala — significa cambiar un identificador de modelo en lugar de recablear la cámara. Cuando una sola opinión no basta, la fusión de modelos ejecuta un panel de modelos sobre la misma entrada, y el DSL de enrutamiento compone varios en una sola llamada.

Hay un punto en el que podemos ser más específicos, y vale la pena ser honestos sobre qué lado favorece. North Micro Vision Instruct es Apache 2.0 y lo bastante pequeño como para ejecutarse en hardware que posees, lo que significa que el argumento habitual para enrutar un modelo de visión a través de un endpoint alojado —que no puedes autoalojarlo— no aplica. El argumento que queda es el de siempre: un segundo modelo en el circuito, con la misma clave, con una sola factura y un único conjunto de credenciales.

¿Cuál elegir, y qué cambiaría la respuesta?

Elige North Micro Vision Instruct si lees documentos, tablas, gráficos o pantallas, si necesitas varias imágenes en una sola llamada, si Apache 2.0 importa porque tienes la intención de alojar el modelo para otras personas, o si quieres un checkpoint de 2.4B que puedas ajustar con tus propios datos. La ficha del modelo de Cohere señala el ajuste fino como el uso previsto y la licencia no pone ningún obstáculo.

Elige M​oondream 3.1 9B A2B si tu salida es geometría —cajas, coordenadas, recuentos con instancias asociadas— y tu despliegue es una máquina CUDA con Photon instalado. El modelo está especializado y su promesa de velocidad apunta exactamente a esa carga de trabajo.

Lo que cambiaría la respuesta para ambos es una evaluación independiente, y eso es lo que hay que seguir de cerca. Los números de ninguno de los proveedores se han reproducido fuera del proveedor, y cada uno ha publicado en condiciones que hacen que la reproducción sea más difícil de lo necesario: uno no revela sus prompts y el otro se ejecutó sobre una implementación interna de servicio de un framework cuyo soporte público aún está pendiente. Cuando un tercero ejecute cualquiera de los checkpoints sobre el mismo conjunto de documentos, el modelo cuya tabla sobreviva intacta a ese contacto será el que merezca credibilidad; y hasta entonces, el proveedor que te dijo cómo midió es con el que resulta más fácil discutir.

Un resultado como este también sirve como recordatorio de que los errores de los modelos ya están documentados: los incidentes de IA y los fallos de agentes que hay detrás de los modelos de esta clase se recopilan en el Archivo de Incidentes de IA de OrcaRouter, donde cada entrada incluye sus propias fuentes, su gravedad, su grado de confianza y su indicador de disputa.