Granite Switch 4.1 8B vs LFM2.5 2.6B Base : y a-t-il vraiment un choix ici ?

C'est l'appariement de la sélection qui ressemble le moins à un combat équitable, alors traitons-le immédiatement plutôt que de prétendre le contraire. Granite Switch 4.1 8B est un checkpoint composite de 8,78 milliards de paramètres publié par IBM le 14 octobre 2026 : un Granite 4.1 8B figé avec deux adaptateurs commutables et un encodeur vocal, assurant le chat, l'évaluation de décisions et la transcription depuis un seul point de terminaison. LFM2.5 2.6B Base est un modèle de texte pré-entraîné de 2,69 milliards de paramètres publié par Liquid AI le 1er août 2026, conçu spécifiquement pour un déploiement embarqué — et, surtout, sa propre fiche de modèle indique qu'il s'agit d'un checkpoint de base « uniquement recommandé pour les tâches qui nécessitent un fine-tuning intensif ». Les comparer comme si l'un pouvait remplacer l'autre est une erreur de catégorie. Les comparer vous apprend quelque chose de plus utile : où se situe réellement la frontière de chacun, et pourquoi presque personne ne choisira entre ces deux-là.

Donc, il ne s'agit pas d'un match comparatif. C'est une cartographie de la décision que vous prendriez réellement — celle où vous avez une cible edge et une cible serveur, et où vous essayez de déterminer quel modèle va où.

À quoi sert chacun

LFM2.5 2.6B Base est une architecture hybride, et l’hybride est justement l’essentiel. Trente couches, dont 22 sont des blocs de convolution courte à double porte et 8 sont de l’attention à requêtes groupées — ainsi, l’essentiel de la pile est constitué de convolution plutôt que d’attention, ce qui permet de réduire l’empreinte mémoire et le coût par token sur du petit matériel. Taille cachée de 2 048, 32 têtes de requête contre 8 têtes KV, un contexte de 131 072 tokens, un vocabulaire de 128 000 tokens et un budget de pré-entraînement de 34 billions de tokens. Seize langues sont répertoriées : anglais, arabe, chinois, français, allemand, italien, japonais, coréen, portugais, espagnol, vietnamien, thaï, indonésien, hindi, russe et polonais. Liquid décrit cette famille comme conçue pour un déploiement sur appareil et propose le modèle instruct frère aux formats GGUF, ONNX et MLX aux côtés du checkpoint natif.

Granite Switch 4.1 8B est l'instinct opposé appliqué au problème opposé. Plutôt que de réduire le modèle, il conserve une colonne vertébrale textuelle plutôt large et ajoute des capacités latéralement. La base est Granite 4.1 8B : 40 couches, une taille cachée de 4 096, 32 têtes de requête pour 8 têtes KV, une fenêtre de 131 072 tokens, un vocabulaire de 100 352 tokens. Par-dessus se trouvent guardian-core, un adaptateur LoRA activé de rang 16 sur les projections d'attention qui détecte les préjudices, le jailbreaking, les grossièretés, la violence, le contenu sexuel, les biais sociaux et les comportements contraires à l'éthique ; decision, un adaptateur de rang 64 sur les sept projections qui renvoie un softmax calibré sur des tokens d'option étiquetés en une seule passe avant ; et Granite Speech 5.0 TurboCTC, un encodeur conformer non autorégressif de 470 M de paramètres pour la transcription. Le total composé est de 8 776 400 896 paramètres contre une base de 8 380 551 168 — une augmentation de 4,72 %.

La dimension qui décide : instruct versus base

La plus grande différence entre ces deux checkpoints n’est ni la taille ni l’architecture. C’est que l’un est un modèle fini et l’autre est de la matière brute.

Granite Switch 4.1 8B est livré prêt à être appelé. Les adaptateurs sont intégrés par composition, les jetons de contrôle sont câblés dans le template de chat, les recettes d'invocation pour l'adaptateur de décision sont documentées avec du code fonctionnel, et la fiche liste les versions exactes de Transformers et de vLLM qu'il requiert. Vous le téléchargez, vous l'exécutez, et il effectue les trois tâches.

LFM2.5 2.6B Base ne fait rien de tout cela, par conception. Les indications de Liquid lui-même précisent que ce checkpoint est destiné aux « assistants spécifiques à une langue (par exemple, le japonais) ou à un domaine (par exemple, le médical), à l'entraînement sur des données propriétaires, ou à l'expérimentation de nouvelles approches de post-entraînement » — et si ce que vous voulez, c'est un modèle qui répond aux questions dès la sortie de la boîte, la fiche renvoie plutôt vers son frère post-entraîné. Un checkpoint de base n'a aucun comportement de suivi d'instructions à comparer, aucun alignement, et aucune discipline de gabarit de conversation. Soumettez les deux à la même évaluation et le modèle Granite paraîtra spectaculairement meilleur pour une raison qui n'a rien à voir avec la question de savoir lequel est le meilleur modèle : l'un a été post-entraîné et l'autre non.

• Paramètres — 8,78 Md composés contre 2,69 Md.

• Couches — 40 blocs Transformer denses contre 30 hybrides (22 convolutions courtes à double porte + 8 GQA).

• Contexte — 131,072 tokens contre 131,072 tokens. Parfaitement à égalité, ce qui est inhabituel et mérite d'être noté.

• Vocabulaire — 100 355 (trois identifiants réservés pour les adaptateurs) contre 128 000.

• Modalités — entrée texte et audio, sortie texte, contre texte uniquement.

• Type de checkpoint — composé, post-entraîné, prêt à être appelé vs base pré-entraînée pour l'affinage.

• Licence — Apache-2.0 contre la licence LFM 1.0, qui n'est pas Apache. Cette distinction compte sur le plan commercial et il est facile de la manquer.

• Preuves publiées — un seul Decision Index exécuté par le fournisseur à 42,9 au total, aucune évaluation indépendante, contre aucun benchmark public comparable pour le checkpoint de base.

Ce que 2,69 milliards vous achètent, que 8,78 milliards ne peuvent pas.

La portabilité, et ce n’est pas un avantage mineur. Un modèle de 2,69 B dont 22 de ses 30 couches sont construites à partir de convolutions courtes est conçu pour tourner sur un appareil — un ordinateur portable, un SoC de classe téléphone, un boîtier embarqué — et Liquid livre des variantes quantifiées GGUF, ONNX et MLX exactement pour cela. Un checkpoint composé de 8,78 B avec un encodeur vocal de 470 M est un artefact côté serveur. Il tourne sur un GPU, dans un conteneur, derrière un point de terminaison.

Cela signifie que les scénarios de déploiement ne se recoupent pas : l’un concerne le cas où la requête ne peut pas quitter l’appareil, l’autre le cas où elle le peut. Si la contrainte est « pas de réseau », la comparaison est terminée avant même d’avoir commencé, et aucune composition, aussi poussée soit-elle, n’y change quoi que ce soit. Ajoutez à cela le point de la licence — LFM 1.0 plutôt qu’Apache-2.0 — et le checkpoint 2,6B est celui que vous choisiriez lorsque vous avez l’intention de fine-tuner votre propre modèle sur vos propres données et de le livrer dans un produit, tandis que Granite Switch est celui que vous choisissez lorsque vous voulez trois capacités dès aujourd’hui sous une licence permissive.

Ce que la composition vous offre que 2,69 B ne peut pas.

Trois tâches à partir d’un seul point de terminaison, et une probabilité au lieu d’une réponse.

L'adaptateur de décision est la partie qui n'a pas d'équivalent en face. Étant donné un état et une question comportant des options étiquetées, il renvoie un softmax calibré sur ces étiquettes en une seule passe avant — l'appel documenté demande à vLLM les logprobs des identifiants de tokens d'étiquettes exactement via logprob_token_ids puis les exponentie, ce qui produit une sortie de la forme A : 0,982, B : 0,0035, C : 0,014. Les prompts vous donnent un token ; ceci vous donne un nombre auquel vous pouvez appliquer un seuil, faire une moyenne et un logarithme. Il y a aussi un détail documenté qu'il vaut la peine de connaître avant de bâtir dessus : vLLM plafonne logprob_token_ids à 128 identifiants par requête, de sorte qu'une question comportant plus de 128 options exige que ses identifiants d'étiquettes soient découpés en groupes de 128, avec une requête à prompt identique par groupe, les résultats étant concaténés et un seul softmax appliqué sur l'ensemble complet des étiquettes. Comme les logprobs renvoyés couvrent tout le vocabulaire, la valeur de chaque étiquette est indépendante du groupe qui l'a demandée, si bien que le résultat découpé est mathématiquement identique à un appel non plafonné.

La parole sur le même endpoint est la seconde. Envoyez une input_audio partie de contenu sur un chat completion ordinaire et l'encodeur de 470 M la transcrit avant d'épisser la transcription dans le contexte. Les mises en garde d'IBM sont précises et méritent d'être répétées : sortie en anglais uniquement, en minuscules et sans ponctuation, et l'encodeur et le modèle de langage sont entraînés non conjointement — il n'existe aucune projection entraînée qui les couple, de sorte qu'une transcription erronée peut modifier silencieusement ce à quoi le modèle répond. Un modèle en périphérie dépourvu de tout chemin audio a un problème différent, et non pas aucun problème.

Et l’adaptateur de sécurité est le troisième : un classificateur de préjudice et de jailbreak qui utilise le même checkpoint, activé par un jeton de contrôle que le gabarit de chat insère lorsque vous passez un adapter_name, plutôt qu’un second modèle à déployer et à payer.

Où un routeur trouve sa place quand la réponse est « les deux »

La version réaliste de cette comparaison se termine avec les deux modèles dans le même produit. LFM2.5 2.6B Base, affiné, sur l'appareil, traitant ce qui ne peut pas en sortir ; Granite Switch 4.1 8B, auto-hébergé, traitant les décisions et la transcription côté serveur. C'est une architecture à deux niveaux, et la question opérationnelle qu'elle soulève est ce qui se passe à la jointure — un modèle embarqué qui échoue, un serveur saturé, une requête qui doit basculer vers autre chose. Aucun des deux checkpoints ne figure aujourd'hui au catalogue d'OrcaRouter, donc nous ne sommes pas le moyen d'obtenir l'un ou l'autre ; le point où nous devenons pertinents, c'est la chaîne de repli derrière eux. Une seule clé API couvre plus de 200 modèles hébergés avec basculement automatique, le DSL de routage vous permet de composer plusieurs modèles en un seul appel plutôt que de coder à la main la répartition, et le prix catalogue du fournisseur est répercuté avec 0 % de marge de sorte qu'une baisse de prix d'un fournisseur est effective le jour même. img src="4.png" alt="Capture d'écran du catalogue de modèles OrcaRouter, intitulée 210 modèles, 16 fournisseurs, une clé API, une facture, avec des facettes de modalité indiquant 173 modèles texte, 12 image, 5 embeddings, 10 vidéo et 10 TTS, une barre latérale de filtres pour les modalités d'entrée, la longueur de contexte, le prix d'entrée, le statut, le niveau d'accès, la série et les paramètres pris en charge, et une liste de fiches de modèles du plus récent au plus ancien commençant par OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol et Anthropic Claude Sonnet 5.5 avec leurs tarifs d'entrée et de sortie par million de tokens." /> C'est la couche qui rend une conception à deux niveaux viable plutôt que fragile, et il vaut la peine de la mettre en place avant que le niveau périphérique ne commence à échouer sur le terrain.

Le verdict, tel qu'il est.

Choisissez LFM2.5 2.6B Base si vous allez effectuer un fine-tuning, si l'inférence doit se faire sur l'appareil, ou si une empreinte de 2,69B est la contrainte absolue. Choisissez Granite Switch 4.1 8B si vous avez besoin d'une distribution de décision calibrée, d'un classifieur de sécurité intégré, ou d'une transcription depuis le même point de terminaison que le chat, et si un conteneur avec GPU est acceptable. Le chevauchement entre ces deux cas d'usage est proche de zéro, c'est pourquoi la réponse honnête à « lequel gagne » est que la question est mal posée — et pourquoi la chose la plus utile à retenir est qu'un point de contrôle de base de 2,69B et un modèle instruct composé de 8,78B ne sont pas deux points sur une même ligne de qualité. Ce sont deux produits différents qui se trouvent avoir des nombres de paramètres adjacents.