Nemotron 3.5 Bolt 74B vs Kimi K3: un archivo de 24 GB contra un modelo insignia de 2,8 billones de parámetros

Los dos modelos de esta comparación no compiten por el mismo hueco, y las cifras lo dejan claro antes de que ninguno de los dos fabricantes diga una palabra. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB es un modelo de visión y lenguaje de 74.000 millones de parámetros que NVIDIA comprimió hasta un checkpoint de 2 bits, lo bastante pequeño como para caber en 24 gigabytes de memoria junto con el sistema operativo. Kimi K3 es el buque insignia de 2,8 billones de parámetros de Moonshot AI, un modelo de pesos abiertos cuyo despliegue viable más pequeño es un rack. El primero es un archivo que puedes copiar en un portátil y que NVIDIA empezó a distribuir el 15 de octubre de 2026. El segundo es una carga de trabajo que se alquila por token. Leer sus puntuaciones en paralelo es útil precisamente porque la diferencia es tan grande que nadie puede pretender que el más pequeño sea un sustituto.

Lo que de verdad vale la pena hacer en esta página es determinar a dónde van los 22 puntos del Intelligence Index, y si alguno de ellos recae en las tareas que un agente local realiza realmente.

¿Qué se lanzó, y cuándo?

El repositorio de Bolt apareció en Hugging Face el 7 de octubre de 2026; la propia publicación de lanzamiento de N​VIDIA que lo menciona, «Open From Data Center to Desktop: N​VIDIA Expands N​emotron Family With Highest Efficiency Super VL and Bolt Models», está fechada el 15 de octubre. La propia tarjeta del modelo indica una fecha de publicación del 10/15/2026. Ese orden —primero los pesos, el anuncio ocho días después— importa a cualquiera que lea la cobertura de este modelo, porque una semana del registro público consiste en un checkpoint descargable y una tarjeta de modelo sin nota de prensa alguna asociada.

Los dos modelos están, por lo demás, separados por absolutamente todo. Kimi K3 se presentó el 16 de julio de 2026, con la publicación de sus pesos el 27 de julio, lo que lo hace unos tres meses más antiguo y considerablemente mejor documentado por terceros.

• Arquitectura — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB es un LatentMoE híbrido de Mamba-2–Transformer con un codificador de visión C-RADIO v4-H. Kimi K3 es un modelo de mezcla de expertos dispersa de 2,8 billones de parámetros que activa 104B parámetros por token en 16 de 896 expertos, construido sobre la Kimi Delta Attention de Moonshot.

• Parámetros — 74B en total, 9B activos para el modelo de NVIDIA; 2.8T en total, 104B activos para Kimi K3. El modelo más pequeño activa menos de una décima parte del cómputo por token del modelo más grande.

• Huella de memoria — 24 GB con cuantización de 2 bits (IQ2-XXS a 2,0625 bits por elemento para los pesos de los expertos, NVFP4 para las capas Mamba, Q8_0 para los embeddings y la salida) frente a lo que sea que cueste un despliegue de 2,8 billones de parámetros, que no es una cifra que esta página pueda expresar en gigabytes.

• Contexto — 262.144 tokens para el modelo NVIDIA; 1.048.576 para Kimi K3, con tarifa plana independientemente de la longitud.

• Entradas — texto, imágenes y video como entrada, texto como salida para ambos.

• Licencia — OpenMDW-1.1 para el checkpoint de N​VIDIA; la Licencia Kimi K3 para los pesos de M​oonshot, permisiva para la mayoría de los usos, con un acuerdo aparte requerido a partir de 20 millones de dólares en ingresos anuales.

Los números independientes, y el que no existe

Artificial Analysis ha ejecutado ambos modelos, que es lo que hace que esta comparación pueda responderse en absoluto. No todo lo que aparece en la tabla se midió para ambos, y los vacíos son tan informativos como las puntuaciones.

• Índice de inteligencia — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB obtiene 21,4, cuarto de 67 modelos en su clase de tamaño en el conjunto de comparación propio del panel. Kimi K3 obtiene 43,6 en su modo de razonamiento máximo y 30,1 en su modo bajo. Ambas cifras se miden de forma independiente, no las reporta el proveedor.

• Coste por tarea del Intelligence Index — el modelo de NVIDIA no tiene una cifra porque no tiene un precio medido: Artificial Analysis no indica en absoluto ninguna tarifa de entrada ni de salida para él. Kimi K3 cuesta $2.00 de gasto de API por tarea del índice a $3.00 por millón de tokens de entrada y $15.00 por millón de salida, frente a $0.30 para entrada en caché.

• Velocidad de salida — Kimi K3 genera 43.8 tokens por segundo con 3.6 segundos hasta el primer token en el equipo del panel. No existe una cifra independiente de rendimiento para el modelo de NVIDIA; la propia página de investigación de NVIDIA publica 83.99 tokens por segundo en AIPerf SPEED-Bench-Coding con el drafter LiLiCorr habilitado, lo cual es una medición del proveedor en un benchmark diferente y una máquina diferente.

• Terminal-Bench 2.1 — 85.0 para Kimi K3, ejecutado de forma independiente, frente a la propia afirmación de Moonshot de 88.3. NVIDIA reporta 50.98 para el modelo Bolt en su tarjeta de modelo, así que los dos no están en igualdad de condiciones: un número se ha reproducido fuera del laboratorio y el otro no.

• GPQA Diamond — 93,5 para Kimi K3 de forma independiente; 86,43 para el modelo de NVIDIA según lo publicado por NVIDIA, sin ninguna cifra independiente en el panel.

• Recuperación de contexto largo (AA-LCR) — 88,7 para Kimi K3 frente a 69,7 para el modelo de NVIDIA, ambos medidos.

• Codificación científica (SciCode) — 59,5 para Kimi K3 frente a 39,7 para el modelo NVIDIA, ambos medidos.

• Exactitud del conocimiento y alucinación: en AA-Omniscience, Kimi K3 alcanza un 47,6 % de exactitud con un 46,8 % de no alucinación; el modelo de N​VIDIA alcanza un 17,1 % de exactitud con un 56,3 % de no alucinación. Ese emparejamiento es la fila más interesante de la tabla y la menos favorecedora para una lectura simple del índice: el modelo comprimido sabe menos y lo admite con más frecuencia.

La medición que falta es la que más querría un comprador. Nadie fuera de N​VIDIA ha publicado una prueba de rendimiento o latencia en el checkpoint de 24 GB, que es precisamente el objetivo de lanzar un checkpoint de 24 GB.

Dónde van realmente los 22 puntos

Una diferencia de 22 puntos en el índice suena a una diferencia de categoría, y en algunas tareas lo es. Kimi K3 es mejor en programación científica por veinte puntos, mejor en recuperación de contexto largo por diecinueve, y mejor en preguntas de ciencia de nivel de posgrado por más de siete. No son errores de redondeo y no son artefactos del conjunto de comparación.

Pero la historia de compresión detrás del modelo N​VIDIA es lo bastante específica como para explicar la forma del déficit. El checkpoint fue producido por Star Elastic, la búsqueda de arquitectura guiada por router de N​VIDIA, que tomó el padre 120B-A12B Super VL y buscó la cantidad de expertos y el ancho de MoE por capa que cupieran en menos de 24GB con tamaño de lote uno y contexto de 128K, bajando el top-K de expertos de 22 a 9 y luego cuantizando los expertos a 2,0625 bits por elemento con destilación consciente de la cuantización para recuperar precisión. Eso es un intercambio deliberado de conocimiento almacenado por huella. Un modelo que ha sido comprimido a 2 bits por peso de experto conserva su procedimiento y pierde sus hechos, que es por lo que la fila de alucinación mejora mientras que la fila de precisión colapsa.

La propia tabla de benchmarks de N​VIDIA plantea el mismo argumento en sentido contrario. La compañía publica que el modelo Bolt supera a Qwen3.6-35B-A3B, Gemma4 26B-A4B y su propio N​emotron 3.5 Lightning 30B-A3B en Terminal-Bench 2.1, GPQA Diamond, BrowseComp y WebArena vision —es decir, en tareas agénticas y de uso de herramientas—, mientras pierde frente a Gemma4 en precisión de AA-Omniscience y frente a Qwen3.6 en PinchBench. La ejecución agéntica es lo que preservó la compresión.

Ambos son de pesos abiertos, lo que hace que la elección gire en torno a la electricidad.

Esta es la parte que distingue a este enfrentamiento de una comparación con una API cerrada. Los pesos de Kimi K3 son descargables. Si tienes el hardware, puedes ejecutar tú mismo el modelo de 2.8T y no pagar nada por token — la misma propuesta que el archivo de 24GB, a una escala completamente diferente. Ninguno de los modelos que aparecen aquí está condicionado por un proveedor que pueda cambiar de opinión sobre el acceso.

La división práctica es la geografía del despliegue. Un checkpoint IQ2 de 24GB se ejecuta bajo vLLM en una sola pieza A100, H100 o Blackwell, y la propia receta de referencia de NVIDIA también nombra a llama.cpp y una conversión GGUF, que es como termina dentro de los arneses de agentes locales en máquinas RTX y DGX Spark. El comando de servicio recomendado no es un interruptor de una línea: fija una compilación nocturna de vLLM, requiere un complemento de análisis de razonamiento descargado, necesita los kernels b12x para los backends lineal y MoE, establece backends explícitos de Mamba y atención, y habilita la decodificación especulativa con siete tokens de borrador LiLiCorr. Esa es una receta para alguien que pretende poseer la máquina, no para alguien que quiere una transcripción.

Kimi K3 va en la dirección opuesta. Todo su diseño parte de la premisa de que alquilas la inferencia, y su precio se fija en consecuencia: 3,00 $ de entrada y 15,00 $ de salida por millón de tokens es una posición deliberada en lo más alto del mercado de pesos abiertos.

Ejecutar la comparación en lugar de leerla

Si quieres saber si una diferencia de 22 puntos en el índice importa para tu carga de trabajo, el experimento barato es llamar a la mitad cara. Kimi K3 está en el catálogo de OrcaRouter como kimi/kimi-k3, con la misma clave que el resto de los más de 200 modelos que enrutamos, facturado al precio de lista del proveedor de M​oonshot sin recargo añadido, así que un cambio de precio de M​oonshot se aplica en nuestro lado el mismo día en lugar de en el siguiente ciclo de facturación. Dirige un conjunto de prompts que se parezca a tu tráfico real hacia él y mide la diferencia frente a lo que sea que estés ejecutando localmente. OrcaRouter no aloja ningún modelo de N​VIDIA y no tiene ningún endpoint Bolt que ofrecer; la familia N​emotron no está en nuestro catálogo, y la mitad local de esta comparación sigue siendo una cuestión de hardware en cualquier caso.

Donde el enrutamiento sí se justifica aquí es en la ruta de respaldo. Kimi K3 es una apuesta por un único modelo a un precio elevado, y el modo de fallo de un agente de producción conectado a un único modelo de alta capacidad es que un problema de capacidad en la capa upstream se convierte en un incidente. La conmutación automática por error entre proveedores detrás de un único punto de conexión convierte eso en un reintento.

Cómo decidir

La regla es más corta de lo que sugiere la brecha.

Si tus requisitos incluyen las palabras sin conexión, privado, en el dispositivo o sin coste por token, Kimi K3 no es un candidato y la comparación ha terminado: un modelo de 2,8 billones de parámetros no va a ejecutarse en la máquina en la que estás leyendo esto, y el checkpoint de 24 GB sí. Compra el portátil, acepta 21,4 en el índice y apúntalo al uso de herramientas en lugar de a preguntas sobre bioquímica.

Si tu requisito es la corrección en razonamiento complejo, trabajo de contexto largo a lo largo de cientos de miles de tokens, o codificación a escala de repositorio, el modelo de 24 GB es la herramienta equivocada y la brecha del índice te está diciendo la verdad. Paga por Kimi K3.

Lo que ninguno de los dos proveedores ha resuelto es el caso intermedio, porque depende de un número que nadie ha publicado: la velocidad a la que realmente se ejecuta el checkpoint de 2 bits en hardware que puedes comprar. Hasta que exista una prueba de rendimiento independiente, la respuesta honesta a «¿puede un archivo de 24 GB sustituir a un buque insignia de 2,8 T para mi bucle de agente?» es que la brecha de inteligencia es medible y el caso de la latencia aún no lo es.

Para un modelo cuyos modos de fallo aún no están documentados, la contraparte útil es el registro de lo que ya ha salido mal en otros lugares: los incidentes de IA y los fallos de agentes documentados en modelos de esta clase se recopilan en the OrcaRouter AI Incident Archive, donde cada entrada incluye sus propias fuentes, gravedad, grado de confianza e indicador de disputa.