Nemotron 3.5 Bolt 74B vs Qwen3.8-Max: la mayor brecha en la tabla

Cada enfrentamiento de la familia N​emotron 3.5 Bolt tiene una brecha. Este tiene la más amplia. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB obtiene 21.4 en el Artificial Analysis Intelligence Index; Qwen3.8-Max, el buque insignia de A​libaba y el modelo con la puntuación más alta de esta serie de comparaciones, obtiene 45.4 en el mismo panel ejecutado de forma independiente. Eso son 24 puntos, más que la puntuación completa del índice del modelo más pequeño, y es el punto de partida honesto para cualquiera que se pregunte si un agente local de 24GB puede hacer las veces de la frontera.

No puede. Lo que hace que valga la pena escribir sobre este par es que los dos modelos ganan en filas totalmente distintas, y que la propia tabla de benchmarks de NVIDIA compara Bolt con un modelo Qwen que no es este.

Dos modelos sin nada en común excepto la multimodalidad

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB es un modelo de visión-lenguaje de 74 mil millones de parámetros comprimido a un checkpoint de 2 bits que cabe en 24 gigabytes de memoria. Sus pesos se publicaron en Hugging Face el 7 de octubre de 2026; NVIDIA lo nombró en una publicación de lanzamiento el 15 de octubre. Está diseñado para trabajo agéntico local —llamadas a herramientas, navegación web, uso de terminal, lectura de pantalla— y se vende como descarga en lugar de como servicio, sin ningún precio por uso publicado en ninguna parte.

Qwen3.8-Max es la construcción opuesta. El modelo de primer nivel de Alibaba es una mezcla dispersa de expertos que la empresa posiciona directamente frente a los modelos cerrados más potentes de su ventana de lanzamiento, servido a través de tres formatos de comunicación —una interfaz compatible con OpenAI, una interfaz compatible con Anthropic y el propio DashScope de Alibaba— en regiones de Pekín, Singapur, Tokio, Fráncfort y Virginia. El modelo alojado se lanzó el 3 de agosto de 2026 con entrada de imagen y vídeo, un contexto de un millón de tokens y un interruptor de pensamiento; la instantánea del 2 de septiembre es la versión que se puntúa actualmente en las tablas de clasificación. El modelo hermano de pesos abiertos de la misma familia, Qwen3.8-2.4T-A95B, es un lanzamiento independiente y no es el modelo que se mide aquí.

Uno es un archivo. El otro es un servicio. La comparación sigue siendo útil, porque el servicio publica un precio y el archivo no, y la diferencia entre ambos es lo que una implementación local está comprando en realidad.

• Índice de inteligencia — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB: 21,4. Qwen3.8-Max: 45,4. Ambos medidos de forma independiente por Artificial Analysis.

• Contexto — 262.144 tokens para el checkpoint de N​VIDIA frente a aproximadamente 983.000 para Qwen3.8-Max, con una salida máxima de 131.072 tokens por parte de A​libaba.

• Parámetros — 74 mil millones en total y 9 mil millones activos para Bolt; el nivel insignia de Alibaba es una mezcla dispersa de expertos de un orden completamente distinto, que activa aproximadamente 95 mil millones de parámetros por token en su versión de pesos abiertos.

• Entradas — texto, imágenes y video de entrada, texto de salida para ambos. Esta es la única dimensión en la que los dos son verdaderamente similares.

• Precio — Qwen3.8-Max: $2.00 por millón de tokens de entrada, $6.00 por millón de salida, $0.25 por entrada en caché. Bolt: nada, porque no hay ningún endpoint que comprar.

• Costo por tarea del Índice de Inteligencia — $5.41 para Qwen3.8-Max, medido. No hay cifra para Bolt, por la misma razón.

• Velocidad — Qwen3.8-Max: 39,8 tokens de salida por segundo con 3,06 segundos hasta el primer token y una mediana de 50,3 segundos de tiempo de razonamiento por respuesta, todo medido de forma independiente. Bolt: no existe ninguna medición independiente de rendimiento.

Las filas, de donde vienen los 24 puntos

Artificial Analysis ejecutó ambos. Leer el detalle fila por fila es más útil que el compuesto, porque el compuesto oculta el hecho de que ninguno de los dos modelos está de manera uniforme por delante.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 por ciento, medido de forma independiente. Bolt no tiene ninguna entrada independiente en este benchmark; NVIDIA reporta 50,98 en su ficha de modelo.

• GPQA Diamond — Qwen3.8-Max 92,8 por ciento de forma independiente. El 86,43 de Bolt es la cifra de la propia NVIDIA, y el panel no tiene una cifra independiente para él.

• Humanity's Last Exam, sin herramientas — Qwen3.8-Max 43,1 por ciento frente al 24,7 por ciento de Bolt, ambos medidos de forma independiente.

• Recuperación de contexto largo (AA-LCR) — 80,3 por ciento frente a 69,7 por ciento, ambos medidos.

• Programación científica (SciCode) — 52,1 por ciento frente a 39,7 por ciento, ambos medidos.

• Razonamiento multimodal (MMMU-Pro) — Qwen3.8-Max 82,8 por ciento, medido de forma independiente. Bolt no tiene una entrada independiente, lo que es una omisión notable para un modelo cuyo principal argumento de venta es que puede ver.

• Entregables ocupacionales (GDPval-AA) — Qwen3.8-Max 0.583 normalizado frente al 0.240 de Bolt, ambos medidos.

• Operaciones agénticas y de TI: Qwen3.8-Max registra 42,4 % en APEX-Agents, 40,3 % en ITBench-SRE y 45,0 % en una evaluación de agente analista. Bolt no tiene puntuaciones independientes en ninguna de esas tres columnas.

• No alucinación (AA-Omniscience) — Qwen3.8-Max, 71,2 por ciento frente al 56,3 por ciento de Bolt, con una precisión del 31,7 por ciento frente al 17,1 por ciento. A diferencia de la comparación entre Bolt y Ultra, en la que el modelo comprimido gana la fila de calibración, aquí el modelo insignia se lleva ambas.

• Coste por tarea de indexación — 5,41 $ para Qwen3.8-Max. Esta es la cifra de coste por tarea más alta de la familia de comparaciones en torno a este modelo, y es el número que hace que la opción local resulte interesante incluso con un déficit de 24 puntos.

Lo que se consigue con 5,41 $ por tarea, y lo que se consigue con 24 GB en su lugar

La economía de Qwen3.8-Max es inusual para un modelo de frontera: el precio por token de 2,00 $ de entrada y 6,00 $ de salida es moderado, pero el modelo pasa mucho tiempo pensando. El tiempo de razonamiento mediano en las ejecuciones del panel es de 50,3 segundos, y el tiempo de respuesta de extremo a extremo promedia 65,9 segundos. Una tarea que lleva al modelo un minuto de deliberación interna genera muchos tokens de salida, y el coste por tarea de índice es la métrica que lo expone. Eso no es una crítica al modelo —el razonamiento profundo es el producto—, pero es la razón por la que un bucle de agente de alto volumen se vuelve caro rápidamente en este nivel.

Esa es precisamente la carga de trabajo para la que está diseñado Bolt. Un checkpoint local no tiene ningún medidor por token: el coste marginal de una llamada a herramienta es la electricidad, y el coste fijo es una GPU. Para un agente siempre activo que realiza miles de pequeños pasos procedimentales —leer una pantalla, llamar a un endpoint, editar un archivo—, la comparación no es 21,4 frente a 45,4, sino una constante frente a una factura que crece. El propio planteamiento de NVIDIA es que Bolt existe para que las tareas agénticas cotidianas puedan ejecutarse localmente sin enviar la carga de trabajo a la nube, y reporta 50,86 en WebArena vision y 66,75 en BrowseComp para exactamente esas tareas.

El problema es que el costo fijo es real y la latencia es desconocida. La receta de servicio de referencia de N​VIDIA es de varios pasos: una compilación nocturna de vLLM fijada, el paquete de kernel b12x, un plugin de análisis de razonamiento descargado por separado, backends explícitos de Mamba y atención, y una configuración de decodificación especulativa que usa el generador de borradores LiLiCorr con siete tokens de borrador. N​VIDIA publica el rendimiento en 83,99 tokens por segundo en AIPerf SPEED-Bench-Coding en una máquina de clase portátil — un número de proveedor en un benchmark de proveedor, sin ninguna ejecución independiente con la que contrastarlo.

La línea base que N​VIDIA eligió

Hay una cosa más que vale la pena notar, y es una lección de lectura más que técnica. La tabla de benchmarks en la tarjeta del modelo de Bolt incluye un modelo Qwen como punto de comparación —y es Qwen3.6-35B-A3B, un modelo mucho más pequeño que el modelo insignia medido en esta página—. La tabla de NVIDIA muestra que Bolt gana en Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR y MCP-Atlas frente a ese modelo, mientras pierde en precisión de AA-Omniscience, no alucinación de AA-Omniscience y PinchBench.

Esas comparaciones bien pueden ser correctas. Pero un lector que extraiga de la tabla que «Bolt vence a Q​wen» está comparando un modelo edge de 74B con un MoE de clase densa de 35B, no con el nivel de frontera de A​libaba. Frente a Qwen3.8-Max, el registro independiente va justo al revés en casi todas las filas compartidas, y la brecha se amplía en vez de cerrarse en los benchmarks más difíciles. Cuando un proveedor elige sus propias líneas base, lo honesto es comprobar cuál es la línea base.

Cómo decidir

Elige Qwen3.8-Max cuando la corrección es la restricción. Si la tarea es un análisis de varios pasos, razonamiento multimodal difícil, trabajo agéntico con consecuencias reales, o cualquier cosa medida por los benchmarks en los que obtiene 24 puntos de ventaja, la opción local no es candidata — y a $2.00 y $6.00 por millón de tokens, tiene un precio de infraestructura en lugar de lujo. También es el modelo a elegir cuando el flujo de trabajo necesita salidas estructuradas, llamadas a herramientas nativas y un contexto de un millón de tokens en una sola llamada, todo lo cual A​libaba documenta como compatible.

Elige Bolt cuando la restricción sea dónde ocurre el trabajo. La privacidad, el funcionamiento sin conexión, una latencia que no depende de una red y un costo por llamada que no existe son cuatro argumentos distintos, y cada uno basta por sí solo para algunos equipos. El modelo es competente en procedimientos y débil en recuperación; dirígelo hacia lo primero.

En lo que respecta a la mitad alojada, Qwen3.8-Max es accesible a través de OrcaRouter como qwen/qwen3.8-max/ con la misma clave que más de 200 otros modelos, al precio de lista del proveedor de Alibaba y sin ningún recargo — lo que significa que un cambio de precio del proveedor recae sobre nosotros el mismo día, en lugar de al final de un ciclo de facturación. Eso importa más en este nivel que en uno barato, porque 5,41 $ por tarea de índice es una cifra que un equipo de finanzas querrá revisar mensualmente. Donde el enrutamiento cambia la forma de la decisión es en el problema del volumen: una carga de trabajo que es 90 por ciento pasos procedimentales pequeños y 10 por ciento razonamiento difícil puede enviar ese 10 por ciento aquí y mantener el resto en local, con conmutación por error automática entre proveedores, de modo que el nivel alojado se degrada a un reintento en lugar de una interrupción.

No alojamos ningún modelo de N​VIDIA y no tenemos ningún endpoint de Bolt: la familia N​emotron no está en nuestro catálogo, y la mitad local de esta comparación es una cuestión de hardware que ninguna capa de enrutamiento toca.

El número sin resolver

Lo que nadie ha publicado es la medición que haría completa esta comparación: una prueba independiente de latencia y rendimiento sobre el checkpoint de 24 GB con tamaño de lote uno, en una máquina que una persona pueda comprar. Si un checkpoint de 74B en 2 bits resulta ejecutar pasos de agente interactivos a una velocidad utilizable, la brecha de 24 puntos se convierte en una brecha que se puede sortear: local para procedimiento, alojado para razonamiento. Si no lo hace, la opción local es una herramienta por lotes y la comparación se reduce al precio. En cualquier caso, la respuesta está a una publicación de distancia, y es lo que hay que buscar antes de planificar un despliegue en torno a este modelo.

Comparaciones como esta son también donde se manifiestan los modos de fallo: los incidentes de IA documentados y los fallos de agentes que hay detrás de los modelos de esta clase se recopilan en the OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, su gravedad, su grado de confianza y su indicador de disputa.