Granite Switch 4.1 8B vs Qwen3-8B: Qué ocurre cuando el otro lado no tiene sucesor

Empecemos por un problema de nomenclatura, porque cambia lo que este artículo puede ser honestamente. Cuando busques el modelo 8B en la generación Qwen más reciente de Alibaba, no encontrarás ninguno: la línea Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, las variantes Flash, la enorme mezcla de expertos 2.4T-A95B — simplemente no incluye un miembro denso de 8B. El espacio de 8B en la familia Qwen sigue ocupado por Qwen3-8B, publicado el 27 de abril de 2025: 8.200 millones de parámetros, pensamiento híbrido y no-pensamiento en un solo modelo, más de 100 idiomas y dialectos, 32.768 tokens de contexto nativo que se extienden hasta 131.072 con YaRN. Ese modelo tiene dieciséis meses y sigue siendo uno de los checkpoints de pesos abiertos más descargados que existen. Es el que ya ocupa el puesto —y lo que hace que esta comparación merezca la pena escribir sobre ella es que Granite Switch 4.1 8B, el checkpoint compuesto de IBM del 14 de octubre de 2026, no ofrece reemplazarlo con un sucesor en absoluto. Ofrece una forma diferente de modelo en la misma clase de parámetros: un modelo de texto 8B congelado con dos adaptadores conmutables y un codificador de voz colgado de él, que hace tres trabajos mediante conmutación en lugar de un solo trabajo mediante razonamiento. Nadie ha reemplazado a Qwen3-8B, y la mejor pregunta es si alguien necesita hacerlo.

Frente a esto se alza Granite Switch 4.1 8B, el checkpoint compuesto de IBM del 14 de octubre de 2026 — un Granite 4.1 8B congelado con 8.380.551.168 parámetros que lleva dos adaptadores LoRA activados conmutables y un codificador de voz de 470M, para un total compuesto de 8.776.400.896, un 4,72 % más. La misma clase de parámetros, una idea completamente distinta de lo que es un modelo. Qwen3-8B es una pila densa que lo hace todo razonando sobre ello. Granite Switch 4.1 8B es una pila que no hace nada razonando y hace tres cosas conmutando.

El slot de 8B está vacío, y esa es la verdadera historia

Vale la pena detenerse en la ausencia en lugar de tratarla como un hueco en esta comparación. Alibaba lanzó la generación Qwen3.8 con un modelo denso de 27B, una variante Max, variantes Flash y un mixture-of-experts de 2,4 billones de parámetros, y se saltó la clase de tamaño que convirtió a la generación anterior en la opción predeterminada para el despliegue en una sola GPU. Todos los equipos que eligieron Qwen3-8B porque cabía en una sola tarjeta y se podía ajustar con fine-tuning de forma económica ahora se enfrentan a una línea de sucesores que o bien duplica el requisito de memoria o bien cambia por completo el problema de servicio.

Esa es la decisión real de la que trata este artículo. Nadie está eligiendo entre Qwen3-8B y Granite Switch 4.1 8B por su calidad: un incumbent de dieciséis meses frente a un retador de dos días sin evaluación independiente no es una comparación de calidad, sino de conocimiento. La pregunta es qué haces cuando tu caballo de batalla no tiene un sucesor del mismo tamaño, y las dos respuestas candidatas son "conservar el caballo de batalla" y "cambiar la forma".

Qwen3-8B: lo que se consigue con dieciséis meses de producción

Qwen3-8B es un transformer causal denso con 36 capas, tamaño oculto de 4.096, atención de consultas agrupadas con 32 cabezas de consulta frente a 8 cabezas KV, un intermedio de 12.288, RoPE theta 1e6, embeddings no vinculados y un vocabulario de 151.936 tokens. Aproximadamente 8.200 millones de parámetros, de los cuales unos 6.950 millones no pertenecen a los embeddings. El interruptor de pensamiento es un parámetro — enable_thinking — y los ajustes de generación difieren según el modo, y la ficha advierte explícitamente contra la decodificación voraz en modo de pensamiento porque provoca bucles.

Lo que tiene y que ningún checkpoint nuevo puede atribuirse: dieciséis meses de tráfico de producción de otras personas. Modos de fallo que alguien más ya encontró y documentó. Cuantizaciones, fine-tunes, recetas de LoRA y guías de despliegue para todos los frameworks de serving que importan. Casi diez millones de descargas en el Hub y más de dos mil me gusta, con un linaje instruct que lo respalda. Cuando un modelo ha estado público durante tanto tiempo, el ecosistema que lo rodea es una parte genuina de su capacidad, y ninguna fecha de lanzamiento puede aplicarse retroactivamente a eso.

Granite Switch 4.1 8B: lo que aporta una nueva forma

El checkpoint de IBM es una composición en lugar de un modelo, y las partes están documentadas en un manifiesto de compilación versionado junto a los pesos. Base: Granite 4.1 8B, 40 capas, tamaño oculto 4.096, 32 cabezas de consulta frente a 8 cabezas KV, ventana de 131.072 tokens, vocabulario de 100.352 tokens. Adaptadores: guardian-core, rango 16, alfa 64, sobre las proyecciones de atención (k_proj, o_proj, q_proj, v_proj), que detecta daño, jailbreak, lenguaje soez, violencia, contenido sexual, sesgo social y comportamiento poco ético; y decision, rango 64, alfa 128, sobre las siete proyecciones, incluido el MLP, que devuelve un softmax calibrado sobre tokens de opción etiquetados en una sola pasada hacia adelante. Codificador: Granite Speech 5.0 TurboCTC, 470 millones de parámetros, CTC conformer no autorregresivo, inglés. Licencia: Apache-2.0, igual que Qwen3-8B.

La capacidad que no tiene equivalente en Qwen3-8B es el adaptador de decisión. Le entregas un estado y una pregunta con opciones etiquetadas y devuelve una distribución, no una respuesta — la llamada documentada solicita a vLLM los logprobs de exactamente los ids de token de las etiquetas a través de logprob_token_ids y exponencia, produciendo una salida con la forma A: 0.982, B: 0.0035, C: 0.014. Puedes pedirle a Qwen3-8B que elija una etiqueta y lo hará, competentemente, y obtendrás una letra. Una letra no se puede umbralizar como una puntuación calibrada, promediar entre turnos ni registrar como un valor de confianza. Esa es la diferencia, y no es una diferencia que el escalado arregle.

La segunda cosa que aporta la composición es aritmética. Cada adaptador comparte la caché de clave/valor del modelo base en lugar de mantener la suya propia, así que pasar de ningún adaptador a dos más un codificador de voz cuesta un 4,72 % en parámetros en lugar de un estado de atención nuevo por capacidad. La publicación de lanzamiento de IBM afirma que el modelo compuesto consume aproximadamente la misma VRAM que el base por sí solo; esa afirmación concreta no se ha reproducido, pero el delta de parámetros en el que se basa está justo ahí en el manifiesto. Eso también explica por qué la publicación de lanzamiento puede describir una carrera entre un Granite Switch compuesto de 30B y un modelo de decisión de 27B como una ventaja de velocidad en lugar de una penalización de memoria.

• Parámetros — 8,78 B compuesto (8,38 B base) frente a 8,2 B.

• Capas — 40 vs 36.

• Contexto — 131.072 nativo frente a 32.768 nativo, 131.072 con YaRN.

• Vocabulario — 100.355 frente a 151.936.

• Idiomas — doce con nombre (inglés, alemán, español, francés, japonés, portugués, árabe, checo, italiano, coreano, neerlandés, chino) frente a más de 100.

• Razonamiento — ninguno vs pensamiento híbrido y no-pensamiento en un solo checkpoint.

• Salida estructurada — softmax calibrado sobre tokens de etiqueta frente a elección por prompt.

• Entrada de audio — codificador ASR de 470M integrado vs ninguno.

• Ecosistema — dos días de vida, sin cuantizaciones ni ajustes finos que mencionar frente a dieciséis meses de trabajo de la comunidad.

Donde Qwen3-8B todavía gana

Idiomas, decisivamente. Doce idiomas con nombre frente a más de cien no es un error de redondeo para cualquiera que lance un producto a una audiencia global, y es lo primero que detectará una prueba de migración. El vocabulario cuenta la misma historia: 151,936 tokens frente a 100,355, con los tres ids de adaptador reservados de Granite redondeándolo a 100,355. Un modelo entrenado en cien idiomas ha sido entrenado en cien idiomas.

El contexto nativo es el segundo. 131.072 tokens de fábrica frente a 32.768 con una ruta de extensión YaRN. Granite Switch 4.1 8B llega a los mismos 131K, pero lo hace de forma nativa, y la extensión YaRN tiene un coste en el comportamiento con contextos largos que una ventana nativa no tiene.

El tercero es el que decide la mayoría de las migraciones reales: nada está roto. No hay ninguna integración que reescribir, ni ninguna pila de servicio que cambiar, ni ningún comportamiento que volver a aprender. Todos los modos de fallo ya los ha mapeado otro, y los ajustes finos que ya puedas tener son tuyos. Un aspirante tiene que ser significativamente mejor para que valga la pena renunciar a eso, y con apenas dos días de vida y sin una evaluación independiente, Granite Switch 4.1 8B no ha demostrado que lo sea.

Donde gana Granite Switch 4.1 8B

La puntuación de decisiones y la forma operativa que conlleva. Si tu aplicación necesita un valor de confianza sobre opciones etiquetadas —enrutar un ticket, puntuar un umbral de escalado, elegir una herramienta con un número asociado—, eso es una primitiva que Qwen3-8B no proporciona, y el prompting no fabrica una. La cifra publicada para este adaptador es el Decision Index, edición v0.3, subconjunto rápido público de 1.068 filas: 42,9 en general, con Conocimiento 29,1, Lenguaje 48,9, Recuperación 49,8, Herramientas 59,8 y Artes 18,0. IBM lo ejecutó, IBM lo publicó, nadie lo ha reproducido, y la propia tarjeta dice que las probabilidades son una probabilidad a priori en lugar de una clasificación certificada en dominios para los que el adaptador no fue entrenado.

La consolidación de endpoints es lo segundo. Chat, decisiones y transcripción en un único endpoint, con la transcripción activada por una parte de contenido input_audio normal en lugar de un segundo servicio. Las advertencias de la ficha de IBM siguen aplicando y merecen repetirse en espíritu de forma literal: solo inglés, salida en minúsculas y sin puntuación, y el codificador de voz y el LLM no se entrenan conjuntamente, por lo que una transcripción errónea puede cambiar silenciosamente aquello a lo que responde el modelo.

Y la componibilidad es la tercera — el compositor es público, el catálogo de adaptadores está abierto, y puedes crear tu propia variante en lugar de aceptar la elección de IBM de dos adaptadores.

Qué hacer mientras la ranura de 8B está vacía

Lo productivo no es migrar. Es tratar Granite Switch 4.1 8B como candidato para las solicitudes específicas que Qwen3-8B maneja mal —las que terminan en un valor de confianza, o que llegan como audio— y dejar todo lo demás donde está. Eso es un problema de enrutamiento, no una reescritura: envía las llamadas con forma de decisión por un lado y el tráfico conversacional por el otro, y mantén intacta la ruta de respaldo mientras averiguas si la nueva forma realmente se comporta bien con tu tráfico.

Esta es la capa que ocupa OrcaRouter, y conviene ser precisos sobre lo que eso significa aquí: Qwen3-8B no está en nuestro catálogo hoy, y Granite Switch 4.1 8B tampoco, así que no somos una forma de conseguir ninguno de los dos — Qwen3-8B es una descarga de Hugging Face y Granite Switch 4.1 8B es una descarga de Hugging Face más un contenedor de vLLM. Lo que hace la plataforma es el trabajo que lo rodea: una sola clave de API para más de 200 modelos alojados, conmutación por error automática para que un candidato pueda estar en una ruta activa sin ser un punto único de fallo, el DSL de enrutamiento para componer varios modelos en una sola llamada, y el precio de lista del proveedor transferido con un 0% de margen, de modo que una bajada de precio de un proveedor esté activa el mismo día en lugar de en la siguiente actualización. Si quieres ver cómo se ve un Qwen de generación actual en un endpoint alojado mientras sopesas esto, Qwen3.8-27B está en el catálogo y es de la misma familia que el modelo vigente en esta comparación.

En resumen

Mantén Qwen3-8B como predeterminado. Dieciséis meses en producción, más de cien idiomas y un vocabulario de 151.936 tokens no son ventajas que un checkpoint de dos días supere solo por arquitectura, y el hecho de que Alibaba no lanzara un sucesor de 8B no convierte a Granite Switch 4.1 8B en ese sucesor: lo convierte en una herramienta diferente que casualmente cae en la misma clase de memoria. Adóptalo de forma limitada y específica: para solicitudes que necesitan una distribución calibrada sobre opciones etiquetadas, para el cribado de seguridad en línea y para audio en el mismo endpoint que el chat. Pruébalo con tu propio conjunto de etiquetas antes de confiar en 42,9, porque ese número es de IBM y solo de IBM. Lo interesante de esta comparación no es que un modelo supere al otro, sino que la ranura de 8B quedó vacía, y el modelo que la ocupe después puede que no sea un 8B denso en absoluto.