Nemotron 3.5 Bolt vs Kimi K3: una descarga de 24 GB frente a un lector de 2,8 billones de parámetros

La respuesta breve y honesta es que estos dos modelos no compiten por el mismo trabajo, y la razón se puede medir en un solo número. Kimi K3 tiene 1.048.576 tokens de contexto. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB tiene 262.144. Si tu tarea es «leer todo este corpus y responder en una sola pasada», el checkpoint de 24 GB queda descalificado antes de que cualquier otra cosa sobre él importe —y si tu tarea es «ejecutar en una estación de trabajo sin red, sin medidor de consumo y sin ningún proveedor involucrado», Kimi K3 tampoco entra en la conversación. Kimi K3 es un modelo de mezcla de expertos de 2,8 billones de parámetros publicado por Moonshot AI el 15 de julio de 2026 bajo una API alojada propietaria. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB es un archivo de pesos abiertos que emplea 9.000 millones de sus 74.000 millones de parámetros en cualquier token dado y cabe en 24 GB de memoria.

El checkpoint Bolt se publicó en Hugging Face el 7 de octubre de 2026 sin ningún anuncio que lo acompañara. La propia publicación de NVIDIA que nombraba el modelo —y a su hermano de 4 GB, Nemotron 3.5 Bolt E4B— llegó el 15 de octubre, ocho días después. Conviene conocer ese orden porque determina qué se puede verificar: los ocho días del registro público constan de un archivo descargable y una ficha de modelo, y la prosa que lo explica llegó después.

Qué está diseñado para hacer cada modelo

Kimi K3 es el buque insignia de Moonshot y su lanzamiento más capaz hasta la fecha: una mezcla de expertos dispersa de 2,8 billones de parámetros con aproximadamente 104 mil millones de parámetros activos por token, diseñada para programación de largo horizonte y trabajo de conocimiento de extremo a extremo, que acepta texto e imágenes y devuelve texto. Se sirve, no se distribuye. No hay descarga, ni compilación cuantizada para ejecutar localmente, ni una versión lo suficientemente pequeña para un portátil.

Nemotron 3.5 Bolt es la construcción opuesta. NVIDIA tomó su modelo 120B-A12B Nemotron 3.5 Super VL, le aplicó una compresión guiada por enrutador que denomina Star Elastic para llegar a 74B-A9B, y luego cuantizó el resultado a 2,0625 bits por elemento experto —un formato IQ2_XXS— con destilación consciente de la cuantización para recuperar la precisión que cuesta el precio. La columna vertebral es un híbrido de Mamba-2 y Transformer que el proveedor denomina LatentMoE, con un codificador de visión C-RADIO v4-H para entrada de imagen y vídeo. Se ejecuta bajo vLLM en piezas Ampere, Hopper y Blackwell, y en hardware RTX Spark y DGX Spark a través de llama.cpp, bajo la licencia OpenMDW-1.1 que permite uso comercial.

Leyendo un corpus extenso, con precio

Aquí es donde la comparación se convierte en aritmética más que en preferencia. Kimi K3 se enruta en OrcaRouter al precio de lista de Moonshot sin nada añadido: 3,00 $ por millón de tokens de entrada, 15,00 $ por millón de tokens de salida, y lecturas en caché a 0,30 $. Su tiempo p50 hasta el primer token en nuestro catálogo es de 7,02 segundos, con un p95 de 10,00 segundos, y transportó 990,6 millones de tokens de tráfico enrutado en todo nuestro catálogo en los últimos siete días —la lectura de contexto largo a escala es una carga de trabajo real, no un experimento mental.

Nemotron 3.5 Bolt no tiene un precio, porque no hay nada a lo que ponerle precio. No hay un endpoint alojado para él, ni API de proveedor, ni lista de precios, y Artificial Analysis indica tanto su velocidad como su coste por tarea de Intelligence Index como N/A exactamente por esa razón. Lo que tiene en cambio es un techo de memoria que compras una vez, y un coste marginal que se reduce a la factura de la luz. Para un pipeline que lee un corpus fijo cada noche, la diferencia entre $3 por millón de tokens de entrada y cero no es un descuento — es un modelo contable distinto, y el punto de equilibrio es una cuestión de gasto de capital que responde tu equipo de finanzas, no este artículo.

La visión no es el desempate que la gente supone

Ambos modelos aceptan imágenes. Ahí es donde termina la similitud.

• Entrada — Kimi K3 acepta texto e imágenes; Nemotron 3.5 Bolt acepta texto, imágenes y vídeo. Para un agente que observa una grabación de pantalla o toma muestras de fotogramas de la señal de una cámara, solo a uno de estos se le puede entregar el archivo directamente.

• Precisión de la ruta de visión: Bolt incorpora un codificador de visión C-RADIO v4-H diseñado específicamente y hereda su comportamiento multimodal del cliente Super VL del que fue comprimido; la comprensión visual de Kimi K3 está documentada como nativa, pero no es la parte del modelo que Moonshot pone en primer plano. La propia tabla de NVIDIA incluye una puntuación de visión en WebArena de 50.86 para Bolt; considérala reportada por el proveedor.

• Control de razonamiento — Kimi K3 no expone temperature, ni top_p ni seed, y la profundidad de razonamiento se ajusta únicamente mediante un parámetro de esfuerzo de razonamiento; el modo de razonamiento de Bolt es un interruptor de plantilla de chat, enable_thinking true o false, heredado del mismo cliente Super VL.

• Especulación — Bolt incluye un drafter LiLiCorr impulsado mediante DFlash que propone siete tokens por adelantado en cada paso, que es el mecanismo detrás de la afirmación de NVIDIA de 84 tokens por segundo en AIPerf SPEED-Bench. No hay una palanca equivalente en un endpoint alojado; obtienes lo que el operador aprovisione.

La brecha medida, y de qué está hecha

Artificial Analysis sitúa a Kimi K3 en 43,6 en su Índice de Inteligencia y a Nemotron 3.5 Bolt en 21. No hay forma de interpretar eso como cercano. Las filas de apoyo de Kimi K3 son sólidas en los lugares donde un lector de contexto largo las necesita — un AA Coding Index de 76,2 en el noveno puesto de 138 modelos medidos, una puntuación de 93,5 en GPQA Diamond, y una cifra de recuperación de contexto largo de 88,7, que es el número que te dice que la ventana de un millón de tokens es utilizable en lugar de meramente declarada.

El 21 de Bolt es un tipo de resultado distinto. Es la cuarta puntuación más alta entre 67 modelos de su clase filtrada por huella, frente a una mediana de clase de 8, y Artificial Analysis lo describe como uno de los principales modelos de pesos abiertos de tamaño similar. La forma correcta de sostener ambas cifras es que una mide lo que un laboratorio de frontera puede lograr sin una restricción de memoria y la otra mide lo que 24 GB pueden albergar. Veintidós puntos de índice son el precio de la restricción, no una prueba de que el modelo más pequeño se haya construido mal.

Lo que falta del lado de Bolt es cualquier medición independiente de lo rápido que es. NVIDIA reporta al menos 80 tokens por segundo de decodificación como objetivo de diseño y 84 en su propio banco de pruebas, con 83.99 tokens por segundo en una ejecución de llama.cpp en un Surface Laptop Ultra con 128 GB. Hasta el momento de escribir esto, ningún tercero ha publicado una cifra de rendimiento o latencia para los pesos de 24 GB. La latencia de Kimi K3, en cambio, está medida y es pública —7.02 segundos p50 hasta el primer token, 10.00 segundos p95—, y esas son las cifras con las que hay que planificar, no las del proveedor.

Donde una capa de enrutamiento cambia la respuesta

Kimi K3 está en nuestro catálogo como kimi/kimi-k3 al precio de lista de Moonshot con un 0 % de margen añadido, ubicado detrás de la misma clave que más de 200 modelos adicionales, con conmutación por error automática entre proveedores upstream cuando uno se degrada. Nemotron 3.5 Bolt no está en nuestro catálogo —no alojamos ningún checkpoint de NVIDIA y no hay ningún endpoint de Bolt al que llamar—, así que la cuestión del enrutamiento aquí no es cuál de los dos servimos. Es cómo se comunican las dos mitades de un pipeline real.

El patrón que funciona es un lector local y un razonador alojado. Bolt se ejecuta en tu hardware y se encarga de las pasadas de alta frecuencia donde los datos no deben salir del edificio y el volumen haría que la facturación por token resultara dolorosa. Kimi K3 se encarga de las solicitudes que necesitan una ventana de un millón de tokens o razonamiento a escala de frontera, a $3 y $15 por millón de tokens. Coloca una regla de enrutamiento delante de ambos y la división se convierte en una línea de configuración en lugar de una refactorización: una solicitud que supere el presupuesto de contexto local va a Kimi K3, todo lo demás se queda en la estación de trabajo. La fusión de modelos es la variante que vale la pena conocer si las llamadas costosas son las importantes — varios modelos responden al mismo prompt en conjunto y te quedas con la coincidencia.

Qué ver

La evidencia específica que resolvería esta comparación es acotada e inminente. Una primera prueba independiente de rendimiento y latencia sobre los pesos de 24 GB de Bolt confirmaría los 84 tokens por segundo de NVIDIA o los reduciría; un precio publicado para el servicio alojado de Bolt convertiría la mitad de esta comparación relativa a costos en simple aritmética; y una segunda medición de recuperación en contexto largo para Kimi K3 confirmaría que su 88,7 es una propiedad del modelo y no una propiedad de un arnés en particular.

Hasta entonces, el resumen es más estrecho que el enfoque de cualquiera de los dos proveedores. Kimi K3 es el mejor modelo en todos los ejes que puede medir un benchmark, y es el único de los dos que puedes llamar esta tarde. Nemotron 3.5 Bolt es el único de los dos que sigue funcionando cuando la red no funciona, y el único cuyo coste marginal por token es cero. Elige el segundo para el trabajo que nunca debería haberse enviado a ninguna parte, y el primero para el trabajo que necesita alcance.