Nanbeige4.3-33B vs Nemotron 3.5 Lightning 30B A3B: un maestro contra un ejecutor

NVIDIA Nemotron 3.5 Lightning 30B A3B se ejecuta a 294,9 tokens de salida por segundo. Nanbeige4.3-33B no tiene ninguna velocidad publicada, porque nadie lo sirve. Esos dos hechos te dicen más sobre este enfrentamiento que cualquier fila de benchmark: un modelo es un producto de rendimiento diseñado, con una tarifa y una historia de despliegue en una sola GPU, y el otro es un checkpoint denso de 33 mil millones de parámetros que llegó a Hugging Face el 24 de octubre de 2026 con una ficha de modelo y sin proveedor de inferencia. Ambos son de "clase 30B". No son el mismo tipo de objeto.

Vale la pena hacer la comparación porque ambos se dirigen al mismo comprador: alguien que construye un agente de ejecución prolongada que necesita realizar muchos pasos pequeños sin una factura de modelo frontera. La respuesta de NVIDIA es reducir el cómputo por token. La respuesta de Nanbeige es hacer que un modelo más grande y denso sea lo bastante bueno en trabajo agéntico como para que solo necesites uno. Son apuestas opuestas, y la evidencia de cada una es de una naturaleza muy distinta.

3,6 mil millones de parámetros activos es todo el argumento.

Nemotron 3.5 Lightning 30B A3B es un modelo híbrido de mezcla de expertos: 31,6 mil millones de parámetros totales, 3,6 mil millones activos por token, repartidos en 52 capas —23 Mamba-2, 23 MoE y 6 de atención—. Enruta hacia 128 expertos y activa 6 de ellos además de un experto compartido. Esa arquitectura es la razón por la que puede sostener aproximadamente 295 tokens por segundo en un endpoint gestionado, mientras que un modelo denso de clase 30B suele situarse en el rango de 40 a 80.

Nanbeige4.3-33B es denso. Los 33.100 millones de parámetros se activan con cada token. No hay enrutamiento, ni dispersión de expertos, ni capa Mamba. Es una elección deliberada con una consecuencia clara: cada token cuesta aproximadamente nueve veces el cómputo activo de Lightning, y el modelo necesita unos 66 GB de pesos en BF16 —o alrededor de 20 GB en 4 bits— residentes en memoria antes de generar nada.

Ninguno de los dos diseños es mejor en abstracto. Los modelos densos suelen ser más sencillos de ajustar y más predecibles en calidad; los modelos dispersos suelen ser más económicos y rápidos de servir con el mismo tamaño nominal. La cuestión es qué propiedad le falta a tu carga de trabajo.

Para qué se creó cada modelo

NVIDIA posiciona a Lightning como la capa de ejecución de un agente siempre activo: el modelo que recibe un plan de un sistema mayor y avanza laboriosamente por llamadas a herramientas, ediciones de archivos y pasos de navegador a bajo costo. Está destilado de Nemotron 3 Ultra, se entrega con decodificación especulativa con predicción de múltiples tokens integrada en el preentrenamiento, además de modelos borrador separados, y está ajustado para harnesses en lugar de para chat. Su conjunto de benchmarks publicados así lo refleja: PinchBench 85,4–86, BrowseComp 36,8–36,97, SWE-bench Verified 51,56–52,8, Terminal-Bench 2.1 alrededor de 23,5–24,6.

Nanbeige4.3-33B se posiciona como docente. La ficha lo dice directamente: es el buque insignia de la serie 4.3, destinado a destilarse en modelos más pequeños como el Nanbeige4.3-3B, aún no publicado. Su conjunto de benchmarks es correspondientemente amplio —20 filas que abarcan codificación agéntica, trabajo colaborativo agéntico y razonamiento—, y su configuración recomendada es la de un modelo que ejecutas tú mismo: tamaño de tensor-parallel 4, llamadas a herramientas XML, preserve_thinking=true para el uso de herramientas en varios turnos.

Uno es un componente dentro del sistema de otra persona. El otro es un modelo fuente para una familia. Ese enfoque explica casi todas las diferencias que se describen a continuación.

El único punto de referencia que comparten no se puede restar.

Ambas tarjetas reportan Terminal-Bench 2.1. Nanbeige afirma 80.9. El rango publicado por NVIDIA para Lightning es de aproximadamente 23.5–24.6. A primera vista, eso supone una diferencia de 56 puntos, y es la cifra que se citará.

No debería ser así. Terminal-Bench mide un modelo dentro de un andamiaje de agente, y los dos proveedores no describen el mismo andamiaje. La ficha de Nanbeige dice que su ejecución de Terminal-Bench 2.1 usó Terminus 2 y que sus modelos se evaluaron con el máximo esfuerzo de pensamiento con un arnés compartido y parámetros de inferencia compartidos. Los números de NVIDIA provienen de su propio arnés interno, que la propia empresa señala que podría diferir de los resultados de terceros. Un modelo denso de 33B al que se le da un bucle favorable y un modelo de 3,6B activos al que se le da uno estándar pueden diferir en decenas de puntos sin que ninguno de los dos modelos esté siendo tergiversado.

La lectura honesta es direccional, no numérica: Nanbeige afirma un rendimiento agéntico en terminal sustancialmente superior, y la afirmación no está verificada por ninguna de las partes. La misma cautela se aplica a GPQA Diamond (Nanbeige 89,5; Lightning 74,3–75,6) y a AA-LCR (Nanbeige 84,0; Lightning 52,0–60,3). Esas diferencias son lo bastante grandes como para que parte de la diferencia sea probablemente capacidad real y no el arnés de evaluación. Pero «probablemente» está haciendo mucho trabajo en esa frase, y ningún tercero ha realizado la comparación.

Lo que no es ambiguo es la cobertura independiente. Artificial Analysis otorga a Nemotron 3.5 Lightning una puntuación de 13 en su Intelligence Index. No tiene entrada para Nanbeige4.3-33B. Un modelo tiene una segunda opinión; el otro tiene una tarjeta de modelo. Esa asimetría es información, y va en contra del proveedor con la tabla más ruidosa.

1M de contexto sobre el papel, 256K en la práctica

Artificial Analysis sitúa la ventana de contexto de Lightning en 1 millón de tokens. La documentación propia de NVIDIA es más conservadora: 262.144 tokens es el techo práctico en una sola H100. Ambas cifras pueden ser ciertas: la arquitectura admite una ventana más larga, pero el hardware en el que probablemente lo ejecutes no la sostiene con comodidad.

524,288 tokens es una ventana entrenada en un modelo denso, y el coste de memoria de la caché KV escala con ella. Las recetas de vLLM y SGLang de la tarjeta usan una utilización de memoria de GPU de 0,8 y un tamaño de paralelismo tensorial de 4, lo que indica que el despliegue previsto no es una sola tarjeta.

Para el trabajo con agentes, la diferencia práctica tiene menos que ver con el máximo y más con lo que sobrevive en una ejecución prolongada. Las capas híbridas Mamba de Lightning están diseñadas para mantener económico el estado a lo largo de secuencias largas; la atención densa de Nanbeige no. NVIDIA también publica AA-LCR en 52,0–60,3, que es una puntuación de razonamiento de contexto largo, y Nanbeige publica 84,0 en el mismo benchmark. Si crees ambas tablas, el razonamiento de contexto largo de Nanbeige es mucho más fuerte. Si solo crees la administrada de forma independiente, la de Lightning es la única que puedes verificar.

La aritmética de hospedar un 33B denso

Aquí es donde la comparación deja de ser una cuestión de calidad y pasa a serlo de utilización.

Lightning figura a $0.06 por millón de tokens de entrada y $0.20 por millón de tokens de salida en un endpoint gestionado. Nanbeige no tiene tabla de tarifas porque ningún proveedor lo despliega; la ficha lo dice sin rodeos. Para usarlo, hay que alquilar o comprar GPUs y seguir la receta de paralelismo tensorial en cuatro vías.

Supongamos, solo a efectos aritméticos, que cuatro GPU de la clase H100 cuestan $2 cada una por hora — $8 por hora por el nodo. Para alcanzar el punto de equilibrio frente al precio de salida de Lightning, ese nodo tiene que producir 40 millones de tokens de salida por hora, lo que equivale a unos 11.100 tokens por segundo de forma sostenida. Un modelo denso de 33B en cuatro GPU no logrará eso. Incluso con una décima parte del coste de las GPU, el rendimiento de equilibrio supera los mil tokens por segundo de forma sostenida, lo que constituye una operación de servicio seria en lugar de un experimento secundario.

La conclusión no es que Nanbeige sea caro. Es que autoalojar un modelo denso de 33B solo supera a un ejecutor de 0,20 dólares por millón de tokens con una utilización muy alta y muy constante —o cuando el trabajo no puede salir de tu infraestructura, en cuyo caso la comparación nunca fue sobre el precio. Con volúmenes irregulares o bajos, el modelo disperso gestionado gana en coste por un amplio margen antes de que la calidad entre en la discusión.

Dónde encaja un enrutador en un sistema de dos modelos

La arquitectura que NVIDIA está vendiendo —un planificador de vanguardia, un ejecutor barato— es la arquitectura a la que la mayoría de los equipos de agentes acaban llegando de todos modos. Es también la forma para la que está concebida una capa de enrutamiento: nuestro DSL de enrutamiento compone varios modelos en una sola llamada de modo que un planificador y un ejecutor pueden situarse detrás de un único endpoint, y la conmutación automática por error evita que un ejecutor que va mal acabe convirtiéndose en un agente bloqueado.

Hoy no ofrecemos Nemotron 3.5 Lightning 30B A3B ni Nanbeige4.3-33B, así que esto no es una propuesta de disponibilidad para ninguno de los dos. Es una nota sobre dónde recae el costo de integración. Si alojas Nanbeige en tu propia infraestructura como planificador y llamas a un modelo alojado como ejecutor, conviene expresar esa división como reglas de enrutamiento en lugar de codificarla de forma rígida en tu aplicación, porque el modelo que quieres en cada rol cambiará antes de que termine el trimestre.

El presupuesto de latencia decide más que la tabla de clasificación.

• Si un solo paso del agente debe responder en menos de un segundo: Lightning. A 295 tokens por segundo, una respuesta de 300 tokens llega en aproximadamente un segundo; un modelo denso de 33B en tu propio hardware no lo hará, y Nanbeige no tiene una opción alojada con la que comparar.

• Si el paso es una larga pasada de razonamiento al inicio de un flujo de trabajo: los márgenes que Nanbeige declara en GPQA, AA-LCR y las filas agénticas lo respaldan — sujeto a la salvedad del arnés mencionada anteriormente.

• Si la obra está en chino: Nanbeige. Los idiomas de publicación de Lightning son inglés, español, francés, alemán, italiano y japonés.

• Si la obra es multilingüe europea: Lightning. Nanbeige solo incluye inglés y chino.

• Si no tienes GPUs y no tienes interés en ellas: Lightning, sin lugar a dudas.

• Si los datos no pueden salir de su red: Nanbeige, y la comparación de costos pasa a ser una decisión de infraestructura en lugar de una de precio por token.

La pregunta abierta

Nanbeige4.3-33B tiene dos días y no tiene historia de servicio. Ese es el hecho que fecha este artículo. Si un proveedor lo adopta —y la afirmación de la tarjeta de que ninguno lo hace hoy es lo que hay que vigilar—, el lado de los costos de esta comparación cambia por completo, porque un 33B denso alojado a un precio por token competitivo socavaría todo el argumento a favor de un ejecutor disperso más pequeño en trabajo sensible a la calidad.

Hasta entonces, la postura defendible es limitada. Nemotron 3.5 Lightning 30B A3B es el modelo que puedes desplegar hoy, a un precio publicado, con una puntuación independiente y aproximadamente nueve veces menos cómputo por token. Nanbeige4.3-33B es el modelo que suena más capaz sobre el papel, con una ventana nativa de 512K y cifras agénticas autodeclaradas que nadie ha reproducido. Si tu agente está limitado por la latencia y el costo, la elección ya está tomada. Si está limitado por la calidad y eres dueño del hardware, vale la pena someter la elección a prueba —y esa prueba aún no se ha realizado.