Granite Switch 4.1 30B: IBM redujo doce adaptadores a dos

Hace cinco meses IBM puso una vista previa de Granite Switch 30B en Hugging Face con doce adaptadores en su interior y un recargo de parámetros del 11,68 % sobre el modelo base. El 14 de octubre de 2026 llegó el modelo terminado — Granite Switch 4.1 30B — y tiene exactamente dos adaptadores y un recargo del 3,89 %. La cifra principal se redujo en dos tercios, y ese es el lanzamiento.

Para ser precisos sobre qué significa "llegó", porque aquí es donde mucha cobertura se vuelve descuidada: los pesos llegaron al Hub el 14 de octubre de 2026, y la propia publicación de lanzamiento de IBM, Granite Switch 4.1: chat, decisiones y voz desde un único endpoint, se publicó el 15 de octubre. Eso es dos días antes de que se escriba esto. Es un lanzamiento anunciado, no una publicación discreta que alguien encontró en un mirror, y no es una nueva publicación del avance de mayo: el artefacto es diferente, la cantidad de adaptadores es diferente y la ruta de audio no existía en el avance en absoluto. Lo que sigue separa lo que se puede leer directamente del repositorio de lo que solo IBM ha dicho.

¿Qué hay realmente en el checkpoint?

Granite Switch 4.1 30B es una composición, no una arquitectura nueva. Toma Granite 4.1 30B — un transformer denso solo decodificador, con ventana de 131.072 tokens y un vocabulario de 100.352 tokens —, lo congela y le añade dos adaptadores LoRA activados más un codificador de voz. El manifiesto de compilación está incluido en el repositorio junto a los pesos, y por eso cada afirmación estructural que sigue puede leerse en lugar de darse por reportada.

• guardian-core — aLoRA, rango 16, alfa 64, adjunto solo a las proyecciones de atención (k_proj, o_proj, q_proj, v_proj), extraído de la Biblioteca Guardian y dirigido a daño, jailbreaking, lenguaje obsceno, violencia, contenido sexual, sesgo social y comportamiento poco ético. Token de control <|guardian-core|>, id 100352.

• decisión — aLoRA, rango 64, alpha 128, adjuntado a las siete proyecciones, incluida la MLP, y entrenado para hacer algo más acotado que el chat: dado un estado y una pregunta con opciones etiquetadas, devolver una distribución de probabilidad calibrada sobre esas etiquetas en un solo paso hacia adelante. Token de control <|decision|>, id 100353.

• Voz — granite-speech-5.0-470m-turboctc, un codificador CTC conformer no autorregresivo de 470 M de parámetros, solo en inglés, integrado como una ruta de entrada de audio en lugar de un segundo servicio.

La aritmética de pesos es el número más limpio de la versión. Base: 28,865,728,512 parámetros. Compuesto: 29,989,814,272. La diferencia es de 1,124,085,760 parámetros, o +3.89%. No escribes los tokens de control tú mismo — la plantilla de chat los inserta cuando pasas un adapter_name como argumento, lo que significa que cambiar de capacidad es un parámetro de solicitud en lugar de un segundo despliegue.

La vista previa incluía doce adaptadores. La versión final incluye dos.

Esta es la decisión que merece la pena entender, porque a primera vista parece una regresión. El checkpoint de vista previa —que sigue en el Hub, que sigue siendo Apache-2.0, fechado el 5 de mayo de 2026— incluye doce adaptadores de tres Granite Libraries: citación, reescritura de consultas, aclaración de consultas, detección de alucinaciones, respondibilidad, detección de factualidad, guardarraíles de políticas, corrección de factualidad, guardian-core, incertidumbre, verificación de requisitos y atribución de contexto. Ese es un paquete realmente útil, y es un paquete sobre el que hay que razonar, porque doce adaptadores significan doce recetas de invocación y doce contratos de salida diferentes.

Granite Switch 4.1 30B conserva dos de ellos y añade un codificador de voz. El intercambio que hizo IBM es legibilidad por cobertura: el modelo terminado es un modelo de chat que también puede responder una pregunta de decisión con una probabilidad y transcribir audio, y esas son tres cosas que quien llama puede retener en la cabeza a la vez. Los otros diez adaptadores no han desaparecido — siguen publicados, siguen siendo componibles, y el compositor en el granite-switch repositorio te construirá un checkpoint con cualquier subconjunto que quieras, incluidos los doce. Lo que cambió es lo que llega activado por defecto.

Eso es un costo real, y vale la pena nombrarlo en lugar de disimularlo: si estabas esperando que los adaptadores de detección de alucinaciones y atribución de contexto del preview alcanzaran un checkpoint 1.0, esto no es eso. Es un modelo más acotado y con una sobrecarga menor, y las herramientas de composición son lo que cierra la brecha.

El adaptador de decisión es la mitad que no es un modelo de chat

Extraer una distribución de probabilidad de un modelo de lenguaje no es nada nuevo. Hacerlo en una sola pasada hacia adelante contra un conjunto fijo de etiquetas de opciones, con números calibrados lo suficientemente bien como para enrutar a partir de ellos, es la parte que necesita explicación. La receta documentada es un prompt de sistema fijo de motor de decisión, un State: turno evaluado sobre la base congelada, y luego un ### DECISION turno que presenta la pregunta y las opciones etiquetadas con un único token. Se solicitan los logprobs de exactamente esos ids de token de etiqueta y se exponencian. El propio ejemplo de la tarjeta devuelve algo como A: 0.982, B: 0.0035, C: 0.014 — y la parte interesante es que esos provienen de un endpoint de completado normal, no de un clasificador.

Hay un detalle de ingeniería que el anuncio omite. El mecanismo de logprob-token-id tiene un límite de 128 ids por solicitud, así que una pregunta de decisión con más de 128 opciones falla por completo. La solución documentada es dividir los ids de las etiquetas en fragmentos de 128, emitir una solicitud por fragmento con un prompt idéntico y concatenar, lo cual es matemáticamente idéntico a una llamada sin límite, porque los logprobs devueltos abarcan todo el vocabulario y, por lo tanto, el valor de cada etiqueta no depende de qué fragmento lo haya solicitado. Una solicitud extra por cada 128 opciones. Este es el tipo de detalle que solo existe dentro de un repositorio.

El único número publicado asociado al adaptador es el Decision Index, edición v0.3, subconjunto rápido público de 1.068 filas: General 50,1, con Conocimiento 32,4, Lenguaje 58,6, Recuperación 49,8, Herramientas 76,5 y Artes 26,4. Lee la forma en lugar de la cifra principal: 76,5 en Herramientas junto a 26,4 en Artes es un perfil muy desigual, y te dice más sobre dónde es seguro apuntar este adaptador que la cifra general. IBM también informa de que los resultados de servir el adaptador localmente y detrás de un endpoint vLLM alojado coincidieron con un margen de aproximadamente 0,6 puntos, lo que es una útil comprobación de cordura de la ruta de servicio aunque IBM ejecutó ambas partes.

Reconocimiento de voz a texto, y la salvedad que IBM escribió en su propia ficha

La ruta de audio pasa la transcripción por el codificador integrado y la inserta en el contexto del chat en lugar de la parte de contenido de audio, de modo que una solicitud con audio se ve como una finalización de chat normal con un input_audio como parte. Sin un segundo servidor de voz, sin un segundo presupuesto de latencia.

Los límites provienen todos de la propia documentación de IBM, más que de un escéptico: solo inglés, salida en minúsculas y sin puntuación, sin control en el momento de la decodificación y —la que debería hacerte bajar el ritmo— el codificador de voz y el modelo de lenguaje no se entrenan conjuntamente. No hay ninguna proyección entrenada que los acople. Por lo tanto, una transcripción errónea puede cambiar aquello a lo que responde el modelo, o el adaptador de decisiones, y nada en el flujo de procesamiento lo señalará. Si vas a desplegar cualquier cosa en la que un error de transcripción tenga consecuencias, esa frase es todo tu modelo de amenazas.

Confirmado, reportado por el proveedor, sin verificar

• Confirmado desde el repositorio — identidad del modelo base, ambos rangos de adaptador y sus módulos objetivo, los ids de tokens de control, el recuento de parámetros compuesto y el delta de +3.89%, la ventana de 131,072 tokens, la licencia Apache-2.0, y la ventana de soporte fijada (Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+).

• Reportado por el proveedor, no reproducido — las cifras del Decision Index, la afirmación de que Granite Speech 5.0 TurboCTC es el modelo ASR más rápido en la tabla de clasificación de OpenASR, la afirmación de que el modelo compuesto consume aproximadamente la misma VRAM que el modelo base, la aseveración de que el adaptador Guardian supera a varios modelos de decisión cerrados mencionados por nombre en tareas relacionadas con la seguridad, y el comentario incidental de la publicación de lanzamiento de que una compilación personalizada de Granite Switch de 3B jugó a Doom a 60–100 decisiones por segundo frente a las 10 por segundo reportadas. IBM dice que vendrán más datos "en las próximas semanas", lo cual es una admisión de que la evidencia actual es escasa.

• Nadie lo ha comprobado — todo lo demás. Ninguna evaluación de terceros, ninguna entrada en una tabla de clasificación, ninguna medición independiente de latencia o rendimiento, ningún endpoint alojado de IBM. El repositorio muestra unos cuantos "me gusta" y, en el momento de redactar esto, prácticamente ninguna descarga. Dos días de antigüedad y en gran medida sin lectores.

Dónde encaja esto en una pila

Granite Switch 4.1 30B es una historia de autoalojamiento. La tarjeta enumera Hugging Face Transformers y vLLM, fija una ventana de versión estrecha, y el checkpoint se ejecuta en ambos sin conversión. No hay endpoint gestionado, así que el primer paso práctico es una GPU y un contenedor.

Siendo francos sobre el resto: hoy no hay ningún modelo Granite en el catálogo de OrcaRouter, así que si quieres este checkpoint, la vía es el lanzamiento de IBM y tu propio hardware. Lo que sí te ofrece la plataforma es la decisión que lo rodea — más de 200 modelos detrás de una sola clave con conmutación por error automática, precio de lista del proveedor transferido con 0 % de margen — algo que importa sobre todo en esta situación exacta. Un checkpoint de hace dos días sin evaluación independiente es un candidato, no un modelo ya consolidado, y lo más económico que se puede hacer con un candidato es mantenerlo junto al modelo que ya está en producción y comparar con tu propio tráfico en lugar de recablear una ruta de producción en torno a él.

La pregunta abierta

La apuesta detrás de Granite Switch es que la composición supera a la escala para una clase específica de trabajo: aplicaciones que responden, deciden y transcriben, donde tres modelos significan tres despliegues, tres latencias y tres facturas. Compartir una única caché KV entre adaptadores y pagar un 3,89 % por ello es una pieza de ingeniería genuinamente poco común, y es la parte de este lanzamiento que seguirá importando dentro de un año.

Lo que no está resuelto es si la respuesta compuesta es buena. El perfil publicado del adaptador de decisión es desigual, la ruta de voz es solo en inglés y no está entrenada conjuntamente, y el modelo tiene dos días de antigüedad sin ninguna ejecución independiente que lo respalde. Lee el manifiesto de compilación, compón tu propio subconjunto y evalúa el adaptador de decisión frente a tu propio conjunto de etiquetas antes de confiar en el 50.1 de nadie.