Granite Switch 4.1 8B vs Granite 4.2 3B: Mismo laboratorio, dos apuestas diferentes

Lo primero que hay que saber sobre Granite Switch 4.1 8B y Granite 4.2 3B es que en realidad no son rivales. Son dos respuestas a preguntas distintas que, por casualidad, comparten laboratorio, licencia y número de versión, y la forma más rápida de perder una semana es tratarlos como un cara a cara y elegir un ganador. IBM publicó Granite 4.2 3B el 25 de agosto de 2026 como un pequeño modelo de razonamiento: tres modos de pensamiento, llamada a herramientas, contexto de 128K ampliable a 512K. IBM publicó Granite Switch 4.1 8B el 14 de octubre de 2026 como una composición: un modelo de texto de 8B congelado con dos adaptadores conmutables y un codificador de voz acoplado a él. Uno está hecho para pensar más a fondo; el otro está hecho para hacer más trabajos desde un único checkpoint.

La segunda cosa que hay que saber es más sutil, y es la razón por la que este emparejamiento merece siquiera un artículo. La línea Granite Switch se construye sobre los pesos de la generación 4.1, mientras que la línea convencional de IBM ya ha pasado a 4.2. Lee el manifiesto de compilación de Granite Switch 4.1 8B y la base es ibm-granite/granite-4.1-8b. Lee la ficha del modelo de Granite 4.2 3B y está entrenado posteriormente a partir de ibm-granite/granite-4.1-3b-base. Ambas líneas se apoyan en la misma generación de pesos preentrenados y hacen cosas opuestas con ellos: 4.2 se somete a un entrenamiento posterior más intenso para el razonamiento, Switch compone lateralmente para lograr amplitud. Ninguna ha sucedido a la otra, y por eso el reflejo de "cuál es más nuevo" te da aquí la respuesta equivocada.

Lo que realmente es cada uno

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B no es un modelo de razonamiento y no intenta serlo. Su base es Granite 4.1 8B — 40 capas, tamaño oculto 4.096, 32 cabezas de consulta frente a 8 cabezas KV, una ventana de 131.072 tokens — congelada, con dos adaptadores LoRA activados encima. guardian-core es de rango 16 sobre las proyecciones de atención y existe para detectar daño, jailbreaking, blasfemias, violencia, contenido sexual, sesgo social y comportamiento poco ético. decision es de rango 64 sobre las siete proyecciones y existe para devolver una distribución de probabilidad calibrada sobre opciones etiquetadas en una sola pasada hacia adelante. Añade Granite Speech 5.0 TurboCTC, un codificador conformer de 470 M de parámetros, para transcripción. Total compuesto: 8.776.400.896 parámetros frente a una base de 8.380.551.168 — un aumento del 4,72 %.

Las dimensiones en las que realmente difieren

• Tamaño — Granite Switch 4.1 8B con 8,78B frente a Granite 4.2 3B con unos 3B. Casi el triple de pesos, lo que en una sola GPU marca la diferencia entre ir cómodo e ir justo.

• Contexto — 131.072 tokens frente a 128K nativos, con una ruta de extensión hasta 512K. Cerca en la base, no cerca si necesitas el régimen de contexto largo.

• Razonamiento — sin modo de pensamiento en absoluto frente a tres de ellos. Granite Switch 4.1 8B responde; Granite 4.2 3B razona primero, opcionalmente.

• Salida estructurada — un softmax calibrado sobre opciones etiquetadas frente a una respuesta inducida por prompt. Solo una de estas te da un número al que puedes aplicar un umbral.

• Modalidades — entrada de texto más audio, salida de texto, frente a solo texto.

• Composición de adaptadores — dos aLoRAs conmutables y un compositor público frente a un único checkpoint monolítico.

• Lanzamiento — 14 de octubre de 2026 frente al 25 de agosto de 2026, con siete semanas de diferencia, ambos Apache-2.0.

Donde Granite 4.2 3B es la elección obvia

Todo lo que necesite pensar antes de responder, y todo lo que tenga que ejecutarse en pequeño. Un modelo de 3B que razona en una cantidad controlada de tokens es una herramienta diferente de un modelo de 8B que no razona en absoluto, y en matemáticas, lógica de varios pasos y código, los modos de pensamiento están haciendo un trabajo real en lugar de decorar la salida. El modo de bajo esfuerzo es la parte subestimada: te da un ajuste intermedio entre «razonar por completo» y «no razonar», que es exactamente lo que quieres cuando una consulta es simple pero no trivial y estás pagando por token.

La extensión de 512K importa por la misma razón, pero en otra dirección. El trabajo con documentos largos —código a escala de repositorio, entradas de varios cientos de páginas— es donde una ventana de 131K empieza a exigir estrategias de fragmentación, y Granite Switch 4.1 8B no documenta una ruta de extensión más allá de sus 131.072.

La huella es el tercer argumento, y no es poca cosa. Tres mil millones de parámetros es un modelo de clase portátil. Puedes ejecutar Granite 4.2 3B en lugares donde un checkpoint de 8,78B simplemente no es una opción, y eso es una diferencia de capacidad, no una preferencia.

Donde Granite Switch 4.1 8B es la elección obvia

Cuando el resultado que necesitas es una probabilidad y no un párrafo. Se puede pedir a un modelo de razonamiento que elija la opción B, y te dará la letra. Sin embargo, los prompts no son probabilidades: no puedes aplicar un umbral a una letra, no puedes comparar una letra entre turnos como una puntuación calibrada, y no puedes registrarla como un valor de confianza.decisión devuelve un softmax sobre los tokens de etiqueta directamente — la llamada documentada solicita a vLLM los logprobs de exactamente esos ids y aplica la exponencial, produciendo una salida con la forma A: 0.982, B: 0.0035, C: 0.014. Eso es una primitiva de enrutamiento, no una respuesta.

Cuando la comprobación de seguridad debe ser un componente en lugar de una política. guardian-core utiliza el mismo checkpoint, activado por un token de control que la plantilla de chat inserta cuando pasas un adapter_name. No estás levantando un segundo modelo para filtrar las entradas; el clasificador es un modo del modelo que ya cargaste.

Cuando quieres un endpoint en lugar de dos, y específicamente cuando el audio es uno de los dos. La transcripción comparte el endpoint con el chat y las decisiones, así que una input_audio parte de contenido en una finalización de chat normal es todo lo que se necesita. Granite 4.2 3B no tiene ruta de audio.

Y cuando quieras componer tu propia variante. El compositor es público, el catálogo de adaptadores está abierto, y el manifiesto de compilación de este checkpoint está registrado junto a los pesos, lo que significa que los rangos, los módulos objetivo y los ids de tokens de control son todos legibles en lugar de inferidos.

Las salvedades honestas de ambas partes

Granite Switch 4.1 8B no tiene ninguna evaluación independiente. Su única puntuación publicada es la del Decision Index, edición v0.3 del subconjunto rápido público, con 42,9 en total — Conocimiento 29,1, Lenguaje 48,9, Recuperación 49,8, Herramientas 59,8, Artes 18,0 — y esa ejecución fue de la propia IBM, publicada en la tarjeta del modelo de IBM, y nadie la ha reproducido. No hay ninguna entrada en clasificaciones de terceros. El modelo lleva dos días en el Hub y tiene unas pocas docenas de descargas.

Su ruta de voz es más limitada de lo que sugiere el titular, y la propia IBM lo admite: el codificador es solo en inglés, la transcripción sale en minúsculas y sin puntuación, y el codificador y el modelo de lenguaje no se entrenan conjuntamente — no existe una proyección entrenada que los acople, por lo que una transcripción errónea puede cambiar silenciosamente aquello a lo que responde el modelo. Granite 4.2 3B, por su parte, tiene siete semanas en lugar de dos días, pero sus cifras de evaluación también son de IBM, y su contexto de 512K es una vía de extensión en lugar de la ventana nativa.

Ninguno de estos modelos tiene una entrada independiente en la tabla de clasificación. Eso es una propiedad de toda la línea Granite 4.x en este momento, no una crítica a ninguno de los dos checkpoints.

Ejecutar ambos sin ejecutar dos stacks

La observación útil sobre este emparejamiento es que los dos modelos no compiten por la misma solicitud, así que el despliegue realista es ambos, en secuencia: Granite 4.2 3B en modo de pensamiento donde la parte difícil es el razonamiento, Granite Switch 4.1 8B donde la parte difícil es puntuar una decisión o transcribir una nota de voz. Eso es una arquitectura de dos contenedores, y vale la pena ser precisos sobre dónde ayuda una capa de enrutamiento y dónde no: ningún modelo Granite de ninguna generación está en el catálogo de OrcaRouter hoy, así que no somos una ruta alojada hacia ninguno de estos dos checkpoints — Granite Switch 4.1 8B y Granite 4.2 3B son ambos una descarga de Hugging Face más un contenedor de vLLM. Lo que cambia la plataforma es la capa por encima de ellos. Más de doscientos modelos están detrás de una sola clave, el precio de lista del proveedor se transfiere con un 0 % de margen así que una rebaja de precio de un proveedor se activa el mismo día en lugar de en la siguiente actualización del catálogo, y la conmutación por error automática significa que un modelo que solo estás probando puede estar en una ruta activa sin convertirse en un único punto de fallo. El objetivo de tener eso implementado antes de que cualquiera de los dos Granite aparezca en un endpoint alojado es que la comparación entonces cuesta una sola cadena de modelo en lugar de una migración.

Entonces, ¿cuál

Elige Granite 4.2 3B cuando la carga de trabajo sea de razonamiento, cuando la máquina sea pequeña o cuando la entrada tenga más de 131K tokens. Elige Granite Switch 4.1 8B cuando la carga de trabajo necesite una probabilidad de decisión calibrada, un filtro de seguridad en línea o voz en el mismo endpoint que el chat. Elige ambos si tienes las GPU, porque la superposición entre ellos es mucho menor de lo que parece por la etiqueta compartida "Granite 4.x" — y no elijas ninguno basándote en un número de benchmark que IBM ejecutó en la tarjeta de IBM, porque esa es toda la base de evidencia pública para ambos.