Nemotron 3.5 Bolt vs GPT-5.6 Sol: Uno de estos dos modelos tiene un precio

No puedes comparar estos dos modelos en cuanto a costo, y eso es lo más útil de la comparación. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB es un archivo de 24 GB: descárgalo, y el precio marginal del token número un millón es la electricidad. GPT-5.6 Sol es un modelo insignia alojado que se factura a $4,00 por millón de tokens de entrada y $20,00 por millón de tokens de salida, con un tiempo hasta el primer token p50 publicado de 1,63 segundos y 535,5 millones de tokens de tráfico durante los últimos siete días. Uno de esos dos tiene una lista de tarifas. El otro tiene un requisito de hardware, que es un tipo distinto de factura que llega una sola vez.

Ambos modelos son reales y ambos ya están disponibles. El checkpoint Nemotron 3.5 Bolt 74B-A9B 24GB de NVIDIA estuvo en Hugging Face desde el 7 de octubre de 2026 sin nada adjunto más que una tarjeta de modelo, y el propio anuncio del proveedor sobre la línea Bolt llegó el 15 de octubre —ocho días después—, en una publicación que nombra tanto este modelo como a un hermano de 4 GB. GPT-5.6 Sol figura en la lista de precios de OpenAI desde el 9 de julio de 2026. Si esta semana eliges entre ellos, la decisión no es cuál es más inteligente. Es si la carga de trabajo puede salir de tu máquina.

Qué mide la brecha de veintiuno contra cincuenta y nueve

Artificial Analysis otorga a Nemotron 3.5 Bolt 74B-A9B una puntuación de 21 en su Intelligence Index, lo que lo coloca en cuarto lugar entre 67 modelos de la clase de comparación en la que se ubica. GPT-5.6 Sol se sitúa en la parte alta de los cincuenta en la misma versión del índice. Una diferencia de cerca de cuarenta puntos es enorme y, planteada así, zanja el debate antes de que empiece.

La brecha también son dos mediciones distintas que llevan un mismo número. El 21 es la mejor puntuación que ha alcanzado cualquier modelo de pesos abiertos con esta huella — Artificial Analysis registra la mediana de modelos comparables de pesos abiertos en 8, y señala que Bolt queda "entre los modelos líderes en inteligencia al compararlo con otros modelos de pesos abiertos de tamaño similar". El 59 aproximado es lo que produce un laboratorio de frontera cuando la memoria no es una limitación. Ninguno de los dos números es incorrecto. Responden a preguntas distintas: cuánta inteligencia cabe en 24 GB y cuánta inteligencia se puede comprar con dinero.

Lo que el panel no pudo medir es más interesante que lo que sí pudo. La página de Artificial Analysis para Bolt lista la velocidad como N/A y el costo por tarea del Intelligence Index como N/A, por la sencilla razón de que no hay un endpoint alojado al que llamar. Cada cifra de velocidad que existe para este modelo proviene del propio banco de pruebas de NVIDIA: la nota de investigación indica un objetivo de diseño de al menos 80 tokens por segundo de decodificación y reporta 84 tokens por segundo en el AIPerf SPEED-Bench en RTX Spark, con 83.99 tokens por segundo en una ejecución de llama.cpp en un Surface Laptop Ultra con 128GB. Es posible que sean exactas. Nadie fuera de NVIDIA las ha reproducido, y deberías tratarlas como una afirmación del proveedor hasta que alguien las reproduzca.

Donde el modelo alojado está estructuralmente por delante

Tres diferencias no tienen nada que ver con la inteligencia, y cada una descalifica al archivo local para un tipo de trabajo.

• Contexto: GPT-5.6 Sol ofrece una ventana de 1.050.000 tokens con una salida máxima de 128.000 tokens; Nemotron 3.5 Bolt admite hasta 262.144 tokens. Una ventana cuatro veces más amplia no es una característica de lujo cuando la tarea es un repositorio o un archivo de contratos en una sola solicitud. La ventana de Bolt también tiene que compartir 24GB con la caché KV, las imágenes, los fotogramas de vídeo y el historial de conversación, lo que significa que el techo práctico llega antes de lo que sugiere la especificación.

• Tipos de entrada — GPT-5.6 Sol acepta texto, imágenes y archivos; Nemotron 3.5 Bolt acepta texto, imágenes y vídeo y devuelve texto. Esa es una ventaja genuina para Bolt en vídeo y una laguna real en documentos, porque un PDF que se pasa como archivo no tiene que rasterizarse, paginarse ni razonarse fotograma a fotograma.

• Disponibilidad — GPT-5.6 Sol es una URL. Nemotron 3.5 Bolt es un despliegue de vLLM que requiere silicio Ampere, Hopper o Blackwell, o una ejecución de llama.cpp en un dispositivo RTX Spark o DGX Spark. Uno de esos lo puedes estar usando en cuatro minutos.

Hay una cuarta diferencia que tiene menos que ver con la capacidad y más con la medición del uso: cada llamada al modelo alojado genera una línea de facturación, y cada llamada al local no. Para un bucle de clasificación o extracción de gran volumen, esa inversión importa más que cuarenta puntos de índice.

Qué te aporta realmente poseer el archivo

Nemotron 3.5 Bolt 74B-A9B es un modelo de mezcla de expertos disperso con 74 mil millones de parámetros y 9 mil millones activos por token, construido sobre una arquitectura troncal híbrida de Mamba-2 y Transformer que NVIDIA llama LatentMoE, con un codificador de visión C-RADIO v4-H acoplado para el trabajo multimodal. Es un artefacto de compresión en el sentido más literal: NVIDIA tomó el modelo Nemotron 3.5 Super VL 120B-A12B, aplicó una búsqueda guiada por enrutador que llama Star Elastic para reducirlo a 74B-A9B y luego ejecutó una destilación con reconocimiento de cuantización hasta 2,0625 bits por peso de experto —un formato IQ2_XXS— para quedar dentro de 24 GB sin reentrenar desde cero. La licencia es OpenMDW-1.1, que permite el uso comercial y no comercial.

Se derivan dos consecuencias. La primera es que el modelo se ejecuta junto a otras aplicaciones en una estación de trabajo en lugar de reemplazarlas, que es lo que hace que un agente local sea viable. La segunda es que se distribuye con especulación incorporada: un borrador LiLiCorr impulsado mediante DFlash propone siete tokens por adelantado, que es de donde proviene una parte significativa de esos 84 tokens por segundo.

La propia tabla de referencia del proveedor, que nadie fuera de NVIDIA ha reproducido, sitúa el checkpoint de 24GB por delante de todas las líneas base de la misma tabla —un Qwen3.6 35B, un Gemma 4 26B y el propio Nemotron 3.5 Lightning 30B-A3B de NVIDIA— en GDPVal-AA-V2 (28.47), Terminal-Bench 2.1 (50.98), GPQA Diamond (86.43), SciCode (41.02) y BrowseComp (66.75). Lee esos datos como afirmaciones sobre cómo se compara un 74B comprimido con modelos sin comprimir de un tercio de su tamaño, que es precisamente lo que pretenden mostrar, y no como una comparación con un modelo insignia alojado.

Fijar honestamente el precio de las dos mitades

La mitad alojada tiene un precio inequívoco. GPT-5.6 Sol figura en el catálogo de OrcaRouter como openai/gpt-5.6-sol al precio de lista del proveedor de OpenAI traspasado con un 0% de margen añadido — $4.00 por millón de tokens de entrada y $20.00 por millón de tokens de salida, las mismas cifras en nuestra página que en la del proveedor, lo que significa que un cambio del lado del proveedor llega a nuestro lado el mismo día en lugar de en la próxima renovación del contrato. Una entrada de 20 000 tokens con 3 000 tokens de salida cuesta $0.08 de entrada y $0.60 de salida, o unos $0.68 por llamada.

La mitad local no tiene un precio que estemos dispuestos a inventar. No hay un endpoint alojado para Nemotron 3.5 Bolt, no hay tarifa, y no hay una plataforma de terceros que lo mida a la que podamos remitirte. Ponerle precio significa ponerle precio a una GPU, a un consumo eléctrico y a un período de amortización — una aritmética que pertenece a tu hoja de cálculo y no a la nuestra, porque la respuesta depende enteramente de cuánto lo ejecutes.

Esa asimetría es donde una capa de enrutamiento hace algo concreto en lugar de decorativo. Nemotron 3.5 Bolt no está en nuestro catálogo y no lo servimos; nada de lo aquí expuesto constituye una oferta para alojar el checkpoint de NVIDIA. Lo que sí aporta un único endpoint es la capacidad de mantener las mitades local y alojada de un flujo de trabajo bajo una sola clave, de modo que una solicitud pueda enviarse a GPT-5.6 Sol cuando necesita una ventana de un millón de tokens o una entrada de archivo, y a tu propio despliegue de Bolt cuando no — con la regla que decide cuál es cuál escrita una sola vez en lugar de estar codificada de forma rígida en cada servicio. Si el proveedor alojado se degrada, la conmutación por error automática traslada la solicitud en lugar de que esta falle.

¿Cuál elegir?

Elige Nemotron 3.5 Bolt 74B-A9B 24GB cuando los datos no puedan salir del edificio, cuando la carga de trabajo incluya video, cuando el volumen sea lo bastante alto como para que la facturación por token sea el costo dominante, o cuando quieras un agente ejecutándose en hardware que ya posees. Acepta una ventana de 262K y una puntuación de índice que es aproximadamente un tercio de la del modelo alojado. Verifica las afirmaciones de rendimiento en tu propio dispositivo antes de planificar la capacidad en función de ellas.

• Elige GPT-5.6 Sol cuando la tarea requiera el contexto más amplio, entrada de archivos, el razonamiento más potente disponible y un contrato de soporte que lo respalde. Paga $4 y $20 por millón de tokens por el privilegio, y ten en cuenta que la salida máxima de 128K es una respuesta única más larga de lo que una envolvente de memoria de 24GB permitirá cómodamente.

• Ejecuta ambos cuando el flujo de trabajo se divida limpiamente, lo cual ocurre en la mayoría de los sistemas de agentes. El archivo local se encarga de la mitad de alta frecuencia, bajo riesgo y sensible a la privacidad; el modelo alojado se encarga de las solicitudes que necesitan alcance.

La pregunta abierta es la misma que planteó el último Nemotron comprimido y que nadie respondió: una primera medición independiente de rendimiento y latencia de los pesos de 24 GB, realizada por alguien que no trabaje en NVIDIA. Hasta que eso exista, el piso de inteligencia de este modelo está verificado externamente y su techo de velocidad no lo está; y para un despliegue local, la velocidad es la mitad que uno siente.