Granite Switch 4.1 8B vs Granite 4.2 3B : même laboratoire, deux paris différents

La première chose à savoir sur Granite Switch 4.1 8B et Granite 4.2 3B, c'est qu'ils ne sont pas vraiment des rivaux. Ce sont deux réponses à des questions différentes qui se trouvent partager un laboratoire, une licence et un numéro de version, et la façon la plus rapide de perdre une semaine est de considérer cela comme un duel et de désigner un vainqueur. IBM a publié Granite 4.2 3B le 25 août 2026 comme un petit modèle de raisonnement : trois modes de réflexion, l'appel d'outils, un contexte de 128 K extensible jusqu'à 512 K. IBM a publié Granite Switch 4.1 8B le 14 octobre 2026 comme une composition : un modèle de texte 8B figé, doté de deux adaptateurs interchangeables et d'un encodeur vocal greffé dessus. L'un est conçu pour réfléchir plus intensément ; l'autre est conçu pour accomplir davantage de tâches à partir d'un seul checkpoint.

La deuxième chose à savoir est plus subtile, et c'est la raison pour laquelle ce duo vaut la peine qu'on lui consacre un article. La gamme Granite Switch s'appuie sur les 4.1poids de la génération, tandis que la gamme conventionnelle d'IBM est déjà passée à 4.2. Consultez le manifeste de construction de Granite Switch 4.1 8B et la base est ibm-granite/granite-4.1-8b. Consultez la fiche de modèle de Granite 4.2 3B et il est post-entraîné à partir de ibm-granite/granite-4.1-3b-base. Les deux gammes reposent sur la même génération de poids pré-entraînés et en font des choses opposées : la 4.2 pousse plus loin le post-entraînement pour le raisonnement, Switch compose latéralement pour la largeur. Aucune n'a supplanté l'autre, et c'est pourquoi le réflexe « laquelle est la plus récente » vous donne ici la mauvaise réponse.

Ce que chacun est réellement

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B n'est pas un modèle de raisonnement et ne cherche pas à l'être. Sa base est Granite 4.1 8B — 40 couches, taille cachée de 4 096, 32 têtes de requête contre 8 têtes KV, une fenêtre de 131 072 jetons — figée, surmontée de deux adaptateurs LoRA activés. guardian-core est de rang 16 sur les projections d'attention et a pour rôle de détecter les préjudices, le jailbreaking, les grossièretés, la violence, le contenu sexuel, les biais sociaux et les comportements contraires à l'éthique. decision est de rang 64 sur les sept projections et a pour rôle de renvoyer une distribution de probabilité calibrée sur des options étiquetées en une seule passe avant. Ajoutez Granite Speech 5.0 TurboCTC, un encodeur conformer de 470 M de paramètres, pour la transcription. Total composé : 8 776 400 896 paramètres contre une base de 8 380 551 168 — une augmentation de 4,72 %.

Les dimensions sur lesquelles ils diffèrent réellement

• Taille — Granite Switch 4.1 8B à 8,78B face à Granite 4.2 3B à environ 3B. Près de trois fois plus de poids, ce qui, sur un seul GPU, fait la différence entre une configuration confortable et une configuration serrée.

• Contexte — 131 072 tokens contre 128K natifs, avec une voie d'extension jusqu'à 512K. Proche sur la base, pas proche si vous avez besoin du régime de contexte long.

• Raisonnement — aucun mode de réflexion du tout face à trois d'entre eux. Granite Switch 4.1 8B répond ; Granite 4.2 3B raisonne d'abord, en option.

• Sortie structurée — un softmax calibré sur des options étiquetées par rapport à une réponse à une invite. Seule l’une d’entre elles vous donne un nombre auquel vous pouvez appliquer un seuil.

• Modalités — entrée texte et audio, sortie texte, par rapport au texte uniquement.

• Composition d'adaptateurs — deux aLoRAs commutables et un composeur public face à un unique checkpoint monolithique.

• Publication — 14 octobre 2026 contre 25 août 2026, à sept semaines d'écart, tous deux sous licence Apache-2.0.

Là où Granite 4.2 3B est le choix évident

Tout ce qui doit réfléchir avant de répondre, et tout ce qui doit tourner en petit. Un modèle 3B qui raisonne en un nombre contrôlé de tokens est un outil différent d’un modèle 8B qui ne raisonne pas du tout, et en mathématiques, en logique à plusieurs étapes et en code, les modes de réflexion font un vrai travail plutôt que de décorer la sortie. Le mode à faible effort est la partie sous-estimée : il vous donne un réglage intermédiaire entre « raisonner pleinement » et « ne pas raisonner », ce qui est exactement ce que vous voulez quand une requête est simple mais pas triviale et que vous payez au token.

L’extension 512K importe pour la même raison, dans une autre direction. Le travail sur des documents longs — du code à l’échelle d’un dépôt, des entrées de plusieurs centaines de pages — est le domaine où une fenêtre de 131K commence à nécessiter des stratégies de découpage, et Granite Switch 4.1 8B ne documente aucun chemin d’extension au-delà de ses 131 072.

L’empreinte est le troisième argument, et ce n’est pas un argument mineur. Trois milliards de paramètres, c’est un modèle de classe ordinateur portable. Vous pouvez faire tourner Granite 4.2 3B là où un checkpoint de 8,78B n’est tout simplement pas une option, et c’est une différence de capacités plutôt qu’une préférence.

Là où Granite Switch 4.1 8B est le choix évident

Lorsque la sortie dont vous avez besoin est une probabilité plutôt qu'un paragraphe. On peut demander à un modèle de raisonnement de choisir l'option B, et il vous donnera la lettre. Les prompts ne sont cependant pas des probabilités : on ne peut pas appliquer de seuil à une lettre, on ne peut pas comparer une lettre d'un tour à l'autre comme un score calibré, et on ne peut pas l'enregistrer comme une valeur de confiance. L'adaptateur de décision renvoie directement un softmax sur les tokens d'étiquette — l'appel documenté demande à vLLM les logprobs de ces ids exactement et les exponentie, produisant une sortie de la forme A: 0.982, B: 0.0035, C: 0.014. Il s'agit d'une primitive de routage, pas d'une réponse.

Lorsque le contrôle de sécurité doit être un composant plutôt qu’une politique. guardian-core s’appuie sur le même point de contrôle, activé par un jeton de contrôle que le gabarit de chat insère lorsque vous passez un adapter_name. Vous ne déployez pas un second modèle pour filtrer les entrées ; le classifieur est un mode du modèle que vous avez déjà chargé.

Lorsque vous voulez un seul point de terminaison au lieu de deux, et plus précisément lorsque l'audio est l'un des deux. La transcription partage le point de terminaison avec le chat et les décisions, il suffit donc d'un input_audio en tant que partie de contenu dans une complétion de chat ordinaire. Granite 4.2 3B n'a pas de chemin audio.

Et lorsque vous voulez composer votre propre variante. Le composeur est public, le catalogue d’adaptateurs est ouvert, et le manifeste de build de ce checkpoint est versionné à côté des poids — ce qui signifie que les rangs, les modules cibles et les identifiants de jetons de contrôle sont tous lisibles plutôt qu’inférés.

Les réserves honnêtes des deux côtés

Granite Switch 4.1 8B ne dispose d’aucune évaluation indépendante, absolument aucune. Son unique score publié est le Decision Index, édition v0.3, sous-ensemble public fast, à 42,9 au global — Connaissances 29,1, Langage 48,9, Récupération 49,8, Outils 59,8, Arts 18,0 — et cette exécution était celle d’IBM, publiée sur la fiche de modèle d’IBM, sans reproduction par qui que ce soit. Il n’existe aucune entrée dans un classement tiers. Le modèle a deux jours sur le Hub et quelques dizaines de téléchargements.

Sa chaîne vocale est plus étroite que ne le laisse entendre le titre, et IBM le dit elle-même : l'encodeur est uniquement en anglais, la transcription ressort en minuscules et sans ponctuation, et l'encodeur et le modèle de langage ne sont pas entraînés conjointement — il n'existe aucune projection entraînée qui les couple, si bien qu'une erreur de transcription peut modifier silencieusement ce à quoi le modèle répond. Granite 4.2 3B, quant à lui, a sept semaines plutôt que deux jours, mais ses chiffres d'évaluation sont eux aussi ceux d'IBM, et son contexte de 512K est une voie d'extension plutôt qu'une fenêtre native.

Aucun de ces deux modèles ne dispose d'une entrée indépendante dans le tableau des scores. C'est actuellement une caractéristique de toute la gamme Granite 4.x, et non une critique de l'un ou l'autre des checkpoints.

Exécuter les deux sans exécuter deux stacks

L'observation utile à propos de ce duo, c'est que les deux modèles n'entrent pas en concurrence pour la même requête ; le déploiement réaliste consiste donc à les utiliser tous les deux, en séquence : Granite 4.2 3B en mode réflexion là où le plus difficile est le raisonnement, Granite Switch 4.1 8B là où le plus difficile est d'évaluer une décision ou de transcrire une note vocale. C'est une architecture à deux conteneurs, et il vaut la peine de préciser où une couche de routage aide et où elle n'aide pas : aucun modèle Granite, quelle que soit la génération, ne figure aujourd'hui au catalogue d'OrcaRouter, nous ne sommes donc pas une route hébergée vers l'un ou l'autre de ces deux checkpoints — Granite Switch 4.1 8B et Granite 4.2 3B sont tous deux un téléchargement Hugging Face plus un conteneur vLLM. Ce que la plateforme change, c'est la couche située au-dessus d'eux. Plus de deux cents modèles se trouvent derrière une seule clé, le prix catalogue du fournisseur est répercuté avec 0 % de marge si bien qu'une baisse de prix d'un fournisseur est effective le jour même, et non à la prochaine actualisation du catalogue, et le basculement automatique signifie qu'un modèle que vous ne faites qu'essayer peut se trouver dans un chemin de production sans devenir un point de défaillance unique. L'intérêt d'avoir cela en place avant que l'un ou l'autre des Granite n'apparaisse sur un point de terminaison hébergé, c'est que la comparaison coûte alors une seule chaîne de modèle au lieu d'une migration.

Alors lequel

Choisissez Granite 4.2 3B lorsque la charge de travail relève du raisonnement, lorsque la machine est petite, ou lorsque l'entrée dépasse 131K tokens. Choisissez Granite Switch 4.1 8B lorsque la charge de travail nécessite une probabilité de décision calibrée, un filtre de sécurité en ligne, ou la parole sur le même point de terminaison que le chat. Choisissez les deux si vous avez les GPU, car le chevauchement entre eux est bien plus faible que ne le laisse paraître le label commun « Granite 4.x » — et ne choisissez ni l'un ni l'autre sur la foi d'un chiffre de benchmark qu'IBM a réalisé sur la carte d'IBM, car c'est là toute la base de preuves publiques pour les deux.