Granite Switch 4.1 8B vs LFM2.5 2.6B Base: ¿Hay una elección real aquí?

Este es el emparejamiento del conjunto que menos parece una pelea justa, así que vamos a ocuparnos de eso de inmediato en lugar de fingir lo contrario. Granite Switch 4.1 8B es un checkpoint compuesto de 8,78 mil millones de parámetros que IBM publicó el 14 de octubre de 2026: un Granite 4.1 8B congelado con dos adaptadores conmutables y un codificador de voz, que hace chat, puntuación de decisiones y transcripción desde un solo endpoint. LFM2.5 2.6B Base es un modelo de texto preentrenado de 2,69 mil millones de parámetros que Liquid AI publicó el 1 de agosto de 2026, construido específicamente para su implementación en dispositivos — y, lo que es importante, su propia tarjeta de modelo dice que es un checkpoint base «solo recomendado para tareas que requieren un ajuste fino intensivo». Compararlos como si uno pudiera reemplazar al otro es un error de categoría. Compararlos te dice algo más útil: dónde se sitúa realmente el límite de cada uno, y por qué casi nadie elegirá entre estos dos.

Así que esto no es una comparativa. Es un mapa de la decisión que realmente estarías tomando: esa en la que tienes un objetivo de edge y un objetivo de servidor, y estás tratando de averiguar qué modelo va dónde.

Para qué sirve cada uno

LFM2.5 2.6B Base es una arquitectura híbrida, y lo híbrido es lo esencial. Treinta capas, de las cuales 22 son bloques de convolución corta con doble compuerta y 8 son atención de consultas agrupadas; por lo tanto, la mayor parte de la pila es convolución en lugar de atención, que es lo que mantiene bajo el consumo de memoria y el costo por token en hardware pequeño. Tamaño oculto de 2.048, 32 cabezas de consulta frente a 8 cabezas KV, un contexto de 131.072 tokens, un vocabulario de 128.000 tokens y un presupuesto de preentrenamiento de 34 billones de tokens. Se enumeran dieciséis idiomas: inglés, árabe, chino, francés, alemán, italiano, japonés, coreano, portugués, español, vietnamita, tailandés, indonesio, hindi, ruso y polaco. Liquid describe la familia como diseñada para su implementación en dispositivo y distribuye el modelo instruct hermano en formatos GGUF, ONNX y MLX junto con el checkpoint nativo.

Granite Switch 4.1 8B es el instinto opuesto aplicado al problema opuesto. En lugar de reducir el modelo, mantiene una columna vertebral de texto relativamente grande y añade capacidad de forma lateral. La base es Granite 4.1 8B: 40 capas, tamaño oculto 4.096, 32 cabezas de consulta frente a 8 cabezas KV, una ventana de 131.072 tokens, un vocabulario de 100.352 tokens. Sobre eso se sitúan guardian-core, un adaptador LoRA activado de rango 16 sobre las proyecciones de atención que detecta daño, evasión de restricciones, lenguaje soez, violencia, contenido sexual, sesgo social y comportamiento poco ético; decision, un adaptador de rango 64 sobre las siete proyecciones que devuelve un softmax calibrado sobre tokens de opción etiquetados en una sola pasada hacia adelante; y Granite Speech 5.0 TurboCTC, un codificador conformer no autorregresivo de 470M de parámetros para transcripción. El total compuesto es 8.776.400.896 parámetros frente a una base de 8.380.551.168 — un aumento del 4,72 %.

La dimensión que lo decide: instruct frente a base

La mayor diferencia entre estos dos checkpoints no es el tamaño ni la arquitectura. Es que uno es un modelo terminado y el otro es materia prima.

Granite Switch 4.1 8B se entrega listo para invocar. Los adaptadores están integrados, los tokens de control están conectados a través de la plantilla de chat, las recetas de invocación para el adaptador de decisión están documentadas con código funcional, y la tarjeta enumera las versiones exactas de Transformers y vLLM que requiere. Lo descargas, lo ejecutas y hace las tres tareas.

LFM2.5 2.6B Base no hace nada de eso, por diseño. La propia guía de Liquid indica que este checkpoint es para "asistentes específicos de un idioma (p. ej., japonés) o específicos de un dominio (p. ej., médico), entrenar con datos propietarios o experimentar con enfoques novedosos de post-entrenamiento" — y si lo que quieres es un modelo que responda preguntas sin necesidad de configuración previa, la tarjeta apunta en su lugar al modelo hermano post-entrenado. Un checkpoint base no tiene comportamiento de seguimiento de instrucciones que comparar, ni alineación, ni disciplina de plantilla de chat. Si pones a los dos en la misma evaluación, el modelo Granite parecerá drásticamente mejor por una razón que no tiene nada que ver con cuál es el mejor modelo: uno ha recibido post-entrenamiento y el otro no.

• Parámetros — 8,78 B compuestos frente a 2,69 B.

• Capas — 40 bloques transformer densos frente a 30 híbridos (22 convoluciones cortas con doble compuerta + 8 GQA).

• Contexto — 131.072 tokens vs 131.072 tokens. Empatados exactamente, lo cual es inusual y merece mención.

• Vocabulario — 100,355 (tres ids reservados para los adaptadores) vs 128,000.

• Modalidades — entrada de texto y audio, salida de texto frente a solo texto.

• Tipo de checkpoint — compuesto, post-entrenado, listo para invocar vs. base pre-entrenada para ajuste fino.

• Licencia — Apache-2.0 frente a la licencia LFM 1.0, que no es Apache. Esa distinción importa a nivel comercial y es fácil pasarla por alto.

• Evidencia publicada — un Decision Index ejecutado por el proveedor con un 42.9 global, sin evaluación independiente, frente a la ausencia de un benchmark público comparable para el checkpoint base.

Lo que 2,69 mil millones te compran que 8,78 mil millones no pueden

Portabilidad, y no es una ventaja menor. Un modelo de 2,69B con 22 de sus 30 capas construidas a partir de convoluciones cortas está diseñado para vivir en un dispositivo —un portátil, un SoC de clase telefónica, una caja embebida—, y Liquid distribuye variantes cuantizadas GGUF, ONNX y MLX precisamente para eso. Un checkpoint compuesto de 8,78B con un codificador de voz de 470M es un artefacto del lado del servidor. Se ejecuta en una GPU, en un contenedor, detrás de un endpoint.

Eso significa que las formas de despliegue no se superponen: una es para el caso en que la solicitud no puede salir del dispositivo y la otra es para el caso en que sí puede. Si la restricción es «sin red», la comparación se acabó antes de empezar, y ninguna cantidad de composición lo cambia. Si a eso le sumas el punto de la licencia —LFM 1.0 en lugar de Apache-2.0—, el checkpoint de 2.6B es el que elegirías cuando tienes la intención de ajustar tu propio modelo con tus propios datos y lanzarlo en un producto, mientras que Granite Switch es el que eliges cuando quieres tres capacidades hoy mismo bajo una licencia permisiva.

Lo que la composición te aporta que 2.69B no puede

Tres trabajos desde un único endpoint, y una probabilidad en lugar de una respuesta.

El adaptador de decisión es la parte que no tiene equivalente en el otro lado. Dado un estado y una pregunta con opciones etiquetadas, devuelve un softmax calibrado sobre esas etiquetas en una sola pasada hacia adelante —la llamada documentada le pide a vLLM los logprobs de exactamente los ids de token de las etiquetas mediante logprob_token_ids y los exponencia, lo que da una salida con la forma A: 0.982, B: 0.0035, C: 0.014. Los prompts te dan un token; esto te da un número al que puedes aplicar un umbral, promediar y registrar. También hay un detalle documentado que conviene conocer antes de construir sobre él: vLLM limita logprob_token_ids a 128 ids por solicitud, así que una pregunta con más de 128 opciones necesita que sus ids de etiqueta se dividan en grupos de 128, con una solicitud de prompt idéntico por grupo, concatenando los resultados y aplicando un único softmax sobre el conjunto completo de etiquetas. Como los logprobs devueltos abarcan todo el vocabulario, el valor de cada etiqueta es independiente de qué grupo lo solicitó, por lo que el resultado por grupos es matemáticamente idéntico a una llamada sin límite.

El habla en el mismo endpoint es lo segundo. Envía una input_audio parte de contenido en una finalización de chat normal y el codificador de 470M la transcribe antes de empalmar la transcripción en el contexto. Las salvedades de IBM son específicas y vale la pena repetirlas: salida solo en inglés, en minúsculas y sin puntuación, y el codificador y el modelo de lenguaje no están entrenados conjuntamente — no hay una proyección entrenada que los acople, por lo que una transcripción errónea puede cambiar silenciosamente aquello a lo que responde el modelo. Un modelo de borde sin ninguna ruta de audio tiene un problema diferente en lugar de no tener problema.

Y el adaptador de seguridad es el tercero: un clasificador de daño y jailbreak que va sobre el mismo checkpoint, activado por un token de control que la plantilla de chat inserta cuando pasas un adapter_name, en lugar de un segundo modelo que desplegar y pagar.

Dónde encaja un router cuando la respuesta es «ambos»

La versión realista de esta comparación termina con ambos modelos en el mismo producto. LFM2.5 2.6B Base, ajustado, en el dispositivo, encargándose de lo que no puede salir de él; Granite Switch 4.1 8B, autoalojado, encargándose de las decisiones y la transcripción en el servidor. Esa es una arquitectura de dos niveles, y la cuestión operativa que plantea es qué ocurre en la costura: un modelo en el dispositivo que falla, un servidor saturado, una solicitud que necesita recaer en otra cosa. Ninguno de los dos checkpoints está hoy en el catálogo de OrcaRouter, así que no somos la vía para conseguir ninguno de los dos; el punto en el que cobramos relevancia es la cadena de respaldo que hay detrás de ellos. Una clave de API cubre más de 200 modelos alojados con conmutación por error automática, el DSL de enrutamiento te permite componer varios modelos en una sola llamada en lugar de armar a mano el despliegue en abanico, y el precio de lista del proveedor se repercute con un 0 % de margen, de modo que una rebaja de precio de un proveedor está activa el mismo día. img src="4.png" alt="Una captura de pantalla del catálogo de modelos de OrcaRouter, encabezado por 210 modelos, 16 proveedores, una clave de API, una factura, con facetas de modalidad que muestran 173 modelos de texto, 12 de imagen, 5 de embeddings, 10 de vídeo y 10 de TTS, una barra lateral de filtros para modalidades de entrada, longitud de contexto, precio de entrada, estado, nivel de acceso, serie y parámetros compatibles, y una lista de tarjetas de modelo ordenada de más reciente a más antiguo que empieza con OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol y Anthropic Claude Sonnet 5.5 con sus tarifas de entrada y salida por millón de tokens." /> Esa es la capa que hace que un diseño de dos niveles sea viable en lugar de frágil, y merece la pena tenerla en marcha antes de que el nivel de borde empiece a fallar sobre el terreno.

El veredicto, tal como es

Elige LFM2.5 2.6B Base si vas a hacer fine-tuning, si la inferencia tiene que ocurrir en el dispositivo, o si una huella de 2.69B es la restricción estricta. Elige Granite Switch 4.1 8B si necesitas una distribución de decisión calibrada, un clasificador de seguridad en línea, o transcripción desde el mismo endpoint que el chat, y si un contenedor respaldado por GPU es aceptable. La superposición entre esos dos casos de uso es casi nula, y por eso la respuesta honesta a «cuál gana» es que la pregunta está mal formulada, y por eso lo más útil para llevarse es que un checkpoint base de 2.69B y un modelo instruct compuesto de 8.78B no son dos puntos en una misma línea de calidad. Son dos productos diferentes que, por casualidad, tienen recuentos de parámetros adyacentes.