Granite Switch 4.1 8B vs Gemma 4 12B: ¿Especialistas compuestos o un solo modelo unificado?

Pregunta a dos laboratorios cómo construir un modelo que pueda mantener una conversación, leer una captura de pantalla y transcribir una nota de voz, y obtienes respuestas opuestas. Granite Switch 4.1 8B, publicado por IBM el 14 de octubre de 2026, mantiene congelado un modelo de texto de 8B y le acopla pequeños adaptadores conmutables, de modo que el verificador de seguridad, el motor de decisión y el reconocedor de voz son todos complementos sobre una única red troncal compartida. Gemma 4 12B, publicado por Google el 23 de mayo de 2026, hace lo contrario: un único modelo de 11,95 mil millones de parámetros entrenado desde el principio con texto, imágenes y audio, sin un codificador separado que conectar. Ambos son Apache-2.0, ambos se ejecutan en una sola GPU y no coinciden en casi nada de lo que hay debajo.

La versión práctica, antes del detalle: Gemma 4 12B es la opción madura para todo lo que necesite ver, porque lleva cinco meses disponible al público, tiene una base instalada genuinamente grande y su ruta multimodal está entrenada en lugar de ensamblada. Granite Switch 4.1 8B es la opción interesante para todo lo que necesite decidir o ejecutar un único endpoint en lugar de tres, y solo tiene dos días de vida, sin ninguna evaluación independiente. Esos no son veredictos contrapuestos — son respuestas a preguntas distintas, y el resto de este artículo es el detalle que te permite distinguir cuál es la pregunta que realmente tienes.

La división arquitectónica, expresada con claridad

Granite Switch 4.1 8B es una composición. La base es Granite 4.1 8B — 40 capas, tamaño oculto de 4.096, 32 cabezas de consulta frente a 8 cabezas KV, una ventana de 131.072 tokens, un vocabulario de 100.352 tokens que los dos adaptadores amplían en exactamente tres ids reservados. Sobre eso se asientan dos adaptadores LoRA activados, guardian-core en rango 16 sobre las proyecciones de atención y decision en rango 64 sobre las siete, además de Granite Speech 5.0 TurboCTC, un codificador conformer no autorregresivo de 470 M de parámetros, para entrada de audio. Total: 8.776.400.896 parámetros frente a los 8.380.551.168 de la base — un aumento del 4,72 % por dos adaptadores y un modelo de voz.

Gemma 4 12B es un único stack. La configuración lo llama gemma4_unified, y el nombre es literal: imagen, audio y video tienen todos sus propios ids de token dentro de un único vocabulario de 262.144 tokens, y la ficha describe la arquitectura como sin codificador, lo que significa que no hay una torre de visión ni una torre de audio separadas que alimenten una proyección hacia el modelo de lenguaje. Intercala atención local de ventana deslizante sobre una ventana de 1.024 tokens con atención global completa, usa p-RoPE para la posición y se extiende hasta un contexto de 256K. Apache-2.0, al igual que el Granite.

• Parámetros — Granite Switch 4.1 8B: 8,78B compuestos (8,38B base). Gemma 4 12B: 11,95B.

• Contexto — 131.072 tokens frente a 256.000 tokens.

• Vocabulario — 100.355 frente a 262.144, con el de Gemma reservado para tokens de imagen, audio y video.

• Modalidades en — texto y audio frente a texto, imagen, audio y video.

• Modalidades de salida — solo texto vs solo texto.

• Cabezas especializadas — una distribución de decisión calibrada y un clasificador de seguridad frente a ninguno; Gemma responde, no puntúa etiquetas de opciones.

• Licencia — Apache-2.0 ambos.

Donde Gemma 4 12B gana de forma contundente

La visión no está ni cerca. Gemma 4 12B lee imágenes de forma nativa; Granite Switch 4.1 8B no tiene ninguna vía de imagen en absoluto. Si tu pipeline ingiere capturas de pantalla, PDF, gráficos o capturas de interfaz, ahí termina la comparación: ninguna argucia con adaptadores sustituye a una modalidad que el checkpoint no acepta.

El historial de resultados es el segundo. Gemma 4 12B está en el Hub desde el 23 de mayo de 2026 y su modelo hermano instruct ha superado 1,6 millones de descargas; solo el checkpoint base ya pasa de las 79.000. Ambas cifras son recuentos de descargas del Hub, no cifras de uso, por lo que sobreestiman el despliegue real, pero la dirección no deja lugar a dudas: hay una gran cantidad de personas que ya se han topado con sus modos de fallo y han escrito sobre ellos. Granite Switch 4.1 8B, en el momento de escribir esto, tiene dos días de vida, unas pocas docenas de descargas y un puñado de me gusta. Cinco meses de informes públicos de errores son un activo que no se puede comprar, y es el argumento más sólido a favor de Gemma en una ruta de producción este trimestre.

La longitud del contexto es la tercera, y es la discreta. 256K frente a 131.072 no es una diferencia de marketing cuando le das documentos largos. Ninguno de los dos modelos necesita un apaño para una carga de trabajo típica de chat, pero solo uno de ellos aceptará un contexto a escala de repositorio sin fragmentación.

Donde Granite Switch 4.1 8B gana de forma contundente

El adaptador de decisión es una capacidad que el otro modelo simplemente no tiene. Dale un estado y una pregunta con opciones etiquetadas y devuelve un softmax calibrado sobre esas etiquetas en una sola pasada hacia adelante — la llamada documentada le pide a vLLM los logprobs de exactamente los ids de token de las etiquetas y los exponencia, produciendo una salida con la forma de A: 0.982, B: 0.0035, C: 0.014. Se puede indicar a un modelo de propósito general que elija una etiqueta, pero el prompting produce un token, no una distribución que se pueda umbralizar, comparar entre turnos o registrar como una puntuación calibrada. Para lógica de enrutamiento, triaje, umbrales de escalado y cualquier cosa que necesite un valor de confianza en lugar de una respuesta, esa es una clase de salida diferente.

La consolidación en un único endpoint es la segunda. La transcripción de voz se ejecuta en el mismo endpoint que el chat y las decisiones; envías un input_audio como parte de contenido en una finalización de chat normal y el codificador de 470M la transcribe antes de empalmar el texto en el contexto. Sin un segundo servidor, sin capa de orquestación, sin factura de ASR aparte. Gemma 4 12B también acepta audio, así que esto no es una brecha de capacidad — es una diferencia en la forma de despliegue, y solo importa si, de otro modo, fueras a ejecutar un servicio de voz separado junto al LLM.

La huella es la tercera. 8,78B frente a 11,95B es aproximadamente una cuarta parte menos de peso que mantener, y el diseño de caché KV compartida hace que los adaptadores no lleven cada uno su propio estado de atención. IBM afirma que el modelo compuesto ocupa aproximadamente la misma VRAM que el modelo base por sí solo; esa afirmación concreta no ha sido reproducida, pero el delta de parámetros del 4,72 % que la sustenta es un hecho del manifiesto de compilación.

Las dos afirmaciones del lado de Granite que aún no son hechos

El número publicado del Decision Index para el adaptador de decisión es 42,9 en general en el subconjunto público rápido edition-v0.3 de 1.068 filas, con puntuaciones por área de Conocimiento 29,1, Lenguaje 48,9, Recuperación 49,8, Herramientas 59,8 y Artes 18,0. IBM realizó esa evaluación y IBM la publicó. Nadie más la ha reproducido, y no hay ninguna entrada de terceros en la tabla de clasificación para Granite Switch en absoluto. Lee también la forma: 59,8 en Herramientas junto a 18,0 en Artes es un perfil especializado, no una puntuación de competencia general, y la ficha dice explícitamente que se traten las probabilidades de las opciones como una distribución a priori en lugar de una clasificación certificada en dominios para los que el adaptador no fue entrenado.

La segunda es la ruta de voz, y es la afirmación con más probabilidades de ser sobreinterpretada. El codificador es solo en inglés, su salida va en minúsculas y sin puntuación y, en palabras de IBM en la ficha del modelo, el codificador de voz y el LLM no están entrenados conjuntamente; no hay una proyección entrenada que los acople. La ruta de audio de Gemma 4 12B se entrenó como parte del modelo. Esa es la diferencia real, y sobrevive a toda la charla sobre la consolidación de endpoints: un sistema tiene un acoplamiento entrenado entre sonido y significado, el otro tiene una transcripción empalmada en un prompt por un componente que nunca se optimizó para funcionar con lo que la lee.

Ejecutándolos uno al lado del otro

Ambos checkpoints son descargables, ambos son Apache-2.0, y el planteamiento honesto es que pertenecen a ranuras distintas en lugar de a una comparativa. Gemma 4 12B es a lo que recurres cuando la entrada incluye píxeles. Granite Switch 4.1 8B es a lo que recurres cuando la salida tiene que ser una probabilidad, o cuando quieres un único endpoint que haga chat, decisiones y transcripción y estás dispuesto a aceptar que la mitad de transcripción es un empalme en lugar de una vía entrenada.

Si vas a comparar los dos, hazlo sin reconfigurar tu stack. OrcaRouter expone más de 200 modelos detrás de una sola clave de API con conmutación por error automática y traslada el precio de lista del proveedor con un 0 % de margen, de modo que un cambio de precio por parte del proveedor llega aquí el mismo día en lugar de esperar a la siguiente actualización del catálogo. img src="4.png" alt="Una captura de pantalla de la página del modelo de OrcaRouter para Gemma 4 26B A4B, que muestra el modelo etiquetado como Visión, Herramientas, JSON y Razonamiento con un contexto de 262K tokens, entrada de texto, imagen y vídeo, una fecha de lanzamiento de Google del 2026-04-03, un precio por millón de tokens de $0.06 de entrada y $0.33 de salida, un tiempo hasta el primer token (p50) de 2,74 segundos, y un texto introductorio que describe Gemma 4 26B A4B IT como un modelo de mezcla de expertos ajustado por instrucciones con 25,2B parámetros totales, de los cuales 3,8B se activan por token." /> Ninguno de estos dos checkpoints está en nuestro catálogo hoy, y no vamos a fingir lo contrario: Granite Switch es una descarga de Hugging Face y un contenedor de vLLM, y Gemma 4 12B es lo mismo. La ventaja de poner un candidato detrás de una sola clave es que, cuando esté disponible, compararlo con el que ya usas sobre tu propio tráfico cuesta una cadena de modelo, no una migración. Piensa en algunos de los modelos que sí servimos, como Gemma 4 26B A4B, como puente: es la misma familia que el modelo que estás evaluando, en un endpoint alojado, hoy mismo.

¿Cuál, para quién?

Elige Gemma 4 12B si tu carga de trabajo incluye píxeles, si un contexto de 256K es crítico, o si vas a lanzar este trimestre y quieres cinco meses de errores de otros entre tú y producción. Elige Granite Switch 4.1 8B si necesitas una distribución calibrada sobre opciones etiquetadas en lugar de una respuesta, si consolidar chat, decisiones y voz en un solo endpoint elimina un servicio de tu arquitectura, o si eres el tipo de equipo que quiere leer el manifiesto de compilación y componer su propia variante — el compositor es público y el catálogo de adaptadores está abierto.

No elijas Granite Switch 4.1 8B para visión. No tiene ninguna. Y no elijas a ninguno de los dos basándote en una cifra de benchmark que no hayas ejecutado tú mismo, porque la única puntuación de decisión en esta comparación es una reportada por el proveedor y sin una segunda opinión que la respalde — lo cual es una afirmación sobre el estado de la evidencia, no sobre el modelo.