Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B: Qué significa "Switch" en cada nombre

Ambos modelos son de unos 30B, ambos tienen una palabra en el nombre que suena a enrutamiento, y hacen cosas completamente distintas con ella. Granite Switch 4.1 30B — pesos en el Hub desde el 14 de octubre de 2026 — conmuta adaptadores: un modelo base denso, dos acoplamientos LoRA activados, y cada token ejecuta la red completa. Nemotron 3.5 Lightning 30B A3B, que NVIDIA publicó el 11 de agosto de 2026, conmuta expertos: una pila híbrida de Mamba-2 y MoE en la que solo unos 3000 millones de los 30 000 millones de parámetros se activan por token. Nadie los ha comparado con benchmarks entre sí, y este artículo no va a pretender lo contrario. La comparación realmente útil es cuánto te cuesta cada diseño por token y qué te devuelve.

Acertar con la distinción no es pedantería, porque los nombres invitan exactamente a la inferencia equivocada. «Switch» en Granite Switch se refiere a una capa de conmutación ligera que lee tokens de control en la entrada y le indica a cada capa del decodificador qué pesos LoRA aplicar sobre ese tramo de tokens. No es enrutamiento de mezcla de expertos y no reduce el cómputo por token ni un solo FLOP. «A3B» en el nombre de NVIDIA es lo contrario: es una afirmación explícita sobre qué tan poca parte del modelo se ejecuta en el momento de la inferencia.

El marcador, dimensión por dimensión

• Parámetros — Granite Switch 4.1 30B suma 29.989.814.272 sobre una base de 28.865.728.512 (+3,89 %); Nemotron 3.5 Lightning 30B A3B tiene 30B en total con aproximadamente 3B activos por token.

• Arquitectura — transformer denso solo con decodificador más dos adaptadores LoRA activados frente a un híbrido intercalado de Mamba-2, MoE y atención.

• Cómputo por token — una pasada forward densa completa de 30B frente a aproximadamente una décima parte de eso en parámetros activos, que es justamente el objetivo del sufijo A3B.

• Contexto — 131.072 tokens en el checkpoint de Switch; hasta 1M en Nemotron Lightning, y NVIDIA documenta 256K como la cifra práctica en una sola H100.

• Modo de razonamiento — ninguno en la plantilla de chat de Switch; un conmutador enable_thinking configurable en la de Nemotron.

• Entrada de audio — un codificador de voz integrado de 470M en el modelo Switch; ninguno en el lado de NVIDIA.

• Licencia — Apache-2.0 frente a OpenMDW-1.1. No son el mismo documento y los términos posteriores difieren; lea aquel bajo el que realmente está distribuyendo.

• Hardware — la tarjeta Switch incluye Transformers y vLLM dentro de una ventana de versiones estrecha; NVIDIA documenta Nemotron Lightning en una sola H100 o A100 de 80 GB, con una compilación NVFP4 destinada al despliegue.

Lo que el checkpoint de Granite Switch te aporta en realidad

La composición es el producto. Granite Switch 4.1 30B congela Granite 4.1 30B y adjunta dos adaptadores — un clasificador de seguridad de rango 16 guardian-core sobre las proyecciones de atención y un adaptador decision de rango 64 en las siete proyecciones — más el codificador de voz. La selección del adaptador ocurre a través de la plantilla de chat cuando pasas un adapter_name, por lo que es un parámetro de solicitud, no un segundo servicio.

Lo que eso aporta es densidad de capacidades: un veredicto de seguridad, una distribución de opciones calibrada y una transcripción, todo de un solo proceso, por 1.120 millones de parámetros adicionales sobre una base que de todos modos ibas a cargar. Hace seis meses, el mismo proyecto lanzó un checkpoint de vista previa con doce adaptadores con un recargo del 11,68 %; la versión final lo redujo a dos con un 3,89 %, lo que supone que IBM intercambie cobertura por legibilidad. Los otros diez adaptadores siguen existiendo y el compositor te construirá un checkpoint con cualquier subconjunto.

Los costos están exactamente donde cabría esperar. Nada en la maquinaria de adaptadores hace que el modelo base sea más rápido, porque el modelo base es denso e intacto: cada token sigue ejecutando la red completa. La ruta de voz es solo en inglés, en minúsculas, sin puntuación y, en palabras de la propia IBM, no entrenada conjuntamente con el modelo de lenguaje, así que una transcripción errónea cambia silenciosamente la pregunta que responde el modelo. Y el checkpoint se distribuye en una única precisión, sin una compilación cuantizada oficial, frente a un modelo de NVIDIA cuya variante NVFP4 recomendada para despliegue ha estado en el Hub desde principios de agosto.

Qué están midiendo realmente los números de Nemotron

La tabla de benchmarks de NVIDIA para Nemotron 3.5 Lightning 30B A3B es más completa que la de IBM para el modelo Switch, y vale la pena leer la nota al pie adjunta. Las cifras —MMLU-Pro 81.94, GPQA Diamond 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58, PinchBench 85.37, AA-LCR 52.00 en contexto largo— NVIDIA las describe como medidas bajo su propio harness consistente, con la advertencia de que pueden diferir de las cifras autoinformadas por otros proveedores. Ese es un encuadre más honesto que el que consiguen la mayoría de las fichas, y aun así siguen siendo cifras reportadas por el proveedor. NVIDIA publicó las recetas en NeMo Gym para que las ejecuciones sean reproducibles por otra persona, lo cual no es lo mismo que otra persona las haya reproducido.

La afirmación más interesante es la relativa a la velocidad en lugar de la precisión. Un modelo de 30B con 3B de parámetros activos es una apuesta a que la mayor parte del trabajo agéntico no necesita que toda la red se active en cada token, y NVIDIA lanzó decodificación especulativa junto con él —cabezas de predicción multitoken más los drafters DFlash y DSpark— para impulsar aún más el rendimiento. También posiciona a Lightning como una capa de ejecución por debajo de un planificador más grande, en lugar de como el modelo al que le haces preguntas difíciles. Ese posicionamiento es de NVIDIA, y también es la lente correcta para la tabla de benchmarks: la eficiencia a nivel de token es lo que aparece en una factura.

La trampa de poner juntos estos dos marcadores

Hay un único número publicado para la capacidad principal del modelo Switch: el Decision Index, edición v0.3, subconjunto rápido público de 1.068 filas, General 50,1, con Conocimiento 32,4, Lenguaje 58,6, Recuperación 49,8, Herramientas 76,5 y Artes 26,4 — y hay una tabla de benchmarks completa para Nemotron Lightning. Colocar 50,1 junto a 81,94 o 51,56 sería un error de categoría de la especie más pura.

El Índice de Decisión puntúa qué tan bien el adaptador de decisiones clasifica un conjunto fijo de opciones etiquetadas. No es una medida de la calidad de chat o de razonamiento del modelo base, y el adaptador no modifica el modelo base. La tabla de Nemotron puntúa el modelo completo en conocimiento, razonamiento, programación y contexto largo. Ejes distintos, arneses distintos, autores distintos y ningún benchmark compartido entre ellos. Ambos son reportados por el proveedor. Ninguno es comparable con el otro, y lo único honesto que se puede hacer con el par es negarse a restarlos.

Lo que sí puedes hacer legítimamente es leer la forma de cada uno. El 76,5 del Decision Index en Tools frente al 26,4 en Arts indica que vale la pena orientar el adaptador hacia decisiones de selección de herramientas y que no se debe confiar en él para clasificación de dominio abierto sin tu propia evaluación. El 51,56 de Nemotron en SWE-bench Verified frente al mejor 70,12 de la misma tabla te dice que no es el agente de programación más fuerte dentro de su propio conjunto de comparación: NVIDIA incluyó el número más alto de un competidor en su propia tabla, lo cual es, como mínimo, una señal que merece respeto.

¿Cuál, para qué?

Si tu problema es un bucle de agente largo que ejecuta miles de decisiones breves de herramientas, la economía de los parámetros apunta en una dirección: un MoE de 3B activos en una sola GPU hará ese trabajo a una fracción del coste por token de un modelo denso de 30B, y el modelo Switch no tiene ningún mecanismo para cerrar esa brecha, porque su "switch" nunca reduce el cómputo. Añádele el contexto de 1M y el conmutador de razonamiento, y el modelo de NVIDIA está simplemente diseñado para esa carga de trabajo.

Si tu problema es un solo proceso que debe responder a un usuario, emitir una decisión de enrutamiento calibrada y transcribir lo que dijo el usuario, la aritmética se invierte. Nemotron 3.5 Lightning no tiene cabeza de decisión ni ruta de audio alguna, y pedirle a un modelo de chat que, por favor, responda con una sola letra no es una distribución calibrada. Granite Switch 4.1 30B te entrega las tres cosas de un solo checkpoint por menos del 4 % más de pesos que su base, y esa es una capacidad que no puedes comprar eligiendo un modelo mejor.

El tercer caso honesto es el más común: no estás eligiendo entre estos en absoluto. Ambos son artefactos autoalojados, ambos son Apache-2.0 u OpenMDW-1.1 en lugar de un endpoint alojado, y ninguno ha sido evaluado de forma independiente. Granite Switch 4.1 30B tiene dos días de antigüedad con una única cifra publicada; Nemotron 3.5 Lightning tiene dos meses de antigüedad con una tabla del proveedor y recetas publicadas. Eso no es suficiente para planificar una migración.

Obtener una respuesta real sin una migración

Ninguno de los dos modelos está hoy en el catálogo de OrcaRouter, así que ambos implican tu propio hardware y los canales de lanzamiento del propio proveedor: los de IBM para el checkpoint de Switch y los de NVIDIA para Lightning. Decir lo contrario sería inventar un endpoint.

Donde la plataforma se gana su lugar es en que un candidato debería ser barato de probar. Una sola clave cubre más de 200 modelos con conmutación por error automática y transfiere el precio de lista del proveedor con un 0% de margen, así que cuando aparece una ruta alojada hacia cualquiera de los dos modelos, ponerla junto al modelo que ya está en producción es un cambio de configuración en lugar de un ciclo de adquisición. Ante dos modelos de pesos abiertos de 30B que en teoría parecen razonables y que nadie fuera del proveedor correspondiente ha medido, la decisión que importa no es cuál tarjeta crees. Es cuán barato puede resultar averiguarlo.

En resumen

Granite Switch 4.1 30B y Nemotron 3.5 Lightning 30B A3B comparten el número de parámetros y casi nada más. Uno es una base densa con adaptadores conmutables que te da tres trabajos por proceso con cómputo denso completo por token; el otro es un híbrido disperso diseñado para que cada token cueste lo mínimo posible y para ejecutar un bucle largo en una sola GPU. Elige según la forma de la carga de trabajo, no según una tabla de benchmarks, y si te llevas una sola cosa de esto, quédate con la corrección en los nombres: la conmutación de adaptadores te compra capacidad, la dispersión de expertos te compra rendimiento, y ningún modelo de aquí te compra ambas cosas.