Granite Switch 4.1 8B vs Qwen3-8B : Que se passe-t-il quand l'autre partie n'a pas de successeur ?

Commençons par un problème de nommage, car cela change ce que cet article peut honnêtement être. Quand vous cherchez le modèle 8B dans la plus récente génération Qwen d'Alibaba, vous n'en trouverez aucun : la gamme Qwen3.8 — Qwen3.8-27B, Qwen3.8-Max, les variantes Flash, l'énorme mélange d'experts 2.4T-A95B — ne comprend tout simplement pas de membre dense 8B. La place du 8B dans la famille Qwen est toujours occupée par Qwen3-8B, publié le 27 avril 2025 : 8,2 milliards de paramètres, réflexion hybride et non-réflexion dans un seul modèle, plus de 100 langues et dialectes, 32 768 tokens de contexte natif extensible à 131 072 avec YaRN. Ce modèle a seize mois et reste l'un des checkpoints à poids ouverts les plus téléchargés qui existent. C'est le titulaire — et ce qui rend cette confrontation digne d'être écrite, c'est que Granite Switch 4.1 8B, le checkpoint composé d'IBM du 14 octobre 2026, ne propose pas du tout de le remplacer par un successeur. Il propose une forme différente de modèle dans la même classe de paramètres : un modèle de texte 8B gelé avec deux adaptateurs commutables et un encodeur de parole greffé dessus, effectuant trois tâches en commutant plutôt qu'une seule en raisonnant. Personne n'a remplacé Qwen3-8B, et la meilleure question est de savoir si quiconque a besoin de le faire.

Face à lui se dresse Granite Switch 4.1 8B, le checkpoint composé d'IBM du 14 octobre 2026 — un Granite 4.1 8B gelé à 8 380 551 168 paramètres, portant deux adaptateurs activated-LoRA commutables et un encodeur vocal de 470 M, pour un total composé de 8 776 400 896, en hausse de 4,72 %. Même classe de paramètres, idée complètement différente de ce qu'est un modèle. Qwen3-8B est une pile dense unique qui fait tout en raisonnant. Granite Switch 4.1 8B est une pile qui ne fait rien par raisonnement et trois choses par commutation.

L'emplacement 8B est vide, et c'est là la véritable histoire.

Il vaut la peine de s'arrêter sur cette absence plutôt que de la traiter comme une lacune dans cette comparaison. Alibaba a livré la génération Qwen3.8 avec un modèle dense de 27B, un Max, des variantes Flash et un mélange d'experts de 2,4 billions de paramètres, et a sauté la classe de taille qui avait fait de la génération précédente un choix par défaut pour un déploiement sur un seul GPU. Chaque équipe qui a choisi Qwen3-8B parce qu'il tenait sur une seule carte et pouvait être affiné à moindre coût se retrouve désormais face à une gamme de successeurs qui soit double le besoin en mémoire, soit change entièrement le problème de serving.

C'est la décision dont cet article traite réellement. Personne ne choisit entre Qwen3-8B et Granite Switch 4.1 8B sur la qualité — un modèle en place depuis seize mois face à un challenger vieux de deux jours, sans évaluation indépendante, n'est pas une comparaison de qualité, c'est une comparaison de connaissances. La question est de savoir ce que vous faites lorsque votre cheval de trait n'a pas de successeur de même taille, et les deux réponses possibles sont « garder le cheval de trait » et « changer de forme ».

Qwen3-8B : ce que seize mois de production rapportent

Qwen3-8B est un transformer causal dense de 36 couches, d'une taille cachée de 4 096, avec une attention à requêtes groupées à 32 têtes de requête contre 8 têtes KV, une dimension intermédiaire de 12 288, un RoPE theta de 1e6, des embeddings non liés et un vocabulaire de 151 936 tokens. Environ 8,2 milliards de paramètres, dont environ 6,95 milliards hors embeddings. L'interrupteur de réflexion est un paramètre — enable_thinking — et les réglages de génération diffèrent selon le mode, la fiche avertissant explicitement contre le décodage glouton en mode réflexion, car il provoque des boucles.

Ce qu'il possède qu'aucun nouveau checkpoint ne peut revendiquer : seize mois de trafic de production d'autres personnes. Des modes de défaillance que d'autres ont déjà rencontrés et documentés. Des quantifications, des fine-tunes, des recettes LoRA et des guides de déploiement pour chaque framework de serving qui compte. Près de dix millions de téléchargements sur le Hub et plus de deux mille likes, avec une lignée instruct derrière lui. Quand un modèle est public depuis aussi longtemps, l'écosystème qui l'entoure fait véritablement partie de ses capacités, et aucune date de sortie ne peut être antidatée pour y remédier.

Granite Switch 4.1 8B : ce qu’apporte une nouvelle forme

Le checkpoint d'IBM est une composition plutôt qu'un modèle, et les parties sont documentées dans un manifeste de build versionné à côté des poids. Base : Granite 4.1 8B, 40 couches, taille cachée 4 096, 32 têtes de requête pour 8 têtes KV, fenêtre de 131 072 tokens, vocabulaire de 100 352 tokens. Adaptateurs : guardian-core, rang 16, alpha 64, sur les projections d'attention (k_proj, o_proj, q_proj, v_proj), détectant les contenus préjudiciables, le jailbreaking, les grossièretés, la violence, le contenu sexuel, les biais sociaux et les comportements contraires à l'éthique ; et decision, rang 64, alpha 128, sur les sept projections, y compris le MLP, renvoyant un softmax calibré sur des tokens d'option étiquetés en une seule passe avant. Encodeur : Granite Speech 5.0 TurboCTC, 470 M de paramètres, CTC conformer non autorégressif, anglais. Licence : Apache-2.0, identique à Qwen3-8B.

La capacité qui n'a pas d'équivalent dans Qwen3-8B, c'est l'adaptateur de décision. Vous lui fournissez un état et une question accompagnée d'options étiquetées, et il renvoie une distribution, pas une réponse — l'appel documenté demande à vLLM les logprobs des identifiants de jetons d'étiquette exacts via logprob_token_ids puis les exponentie, ce qui produit une sortie de la forme A: 0.982, B: 0.0035, C: 0.014. Vous pouvez demander à Qwen3-8B de choisir une étiquette, et il le fera, avec compétence, et vous obtiendrez une lettre. Une lettre ne peut pas être soumise à un seuil comme un score calibré, moyennée sur plusieurs tours, ni consignée comme une valeur de confiance. C'est là la différence, et ce n'est pas une différence que l'échelle corrige.

La deuxième chose que la composition apporte, c'est l'arithmétique. Chaque adaptateur partage le cache clé/valeur du modèle de base au lieu de maintenir le sien, si bien que le passage de zéro adaptateur à deux adaptateurs plus un encodeur vocal coûte 4,72 % en paramètres plutôt qu'un nouvel état d'attention par capacité. Le post de lancement d'IBM affirme que le modèle composé utilise à peu près la même VRAM que le modèle de base seul ; cette affirmation précise n'a pas été reproduite, mais le delta de paramètres sur lequel elle repose est bien présent dans le manifeste. C'est aussi pourquoi le post de lancement peut décrire une course entre un Granite Switch composé de 30B et un modèle de décision de 27B comme un avantage de vitesse plutôt qu'une pénalité de mémoire.

• Paramètres — 8,78 Md composés (8,38 Md de base) contre 8,2 Md.

• Couches — 40 contre 36.

• Contexte — 131 072 en natif vs 32 768 en natif, 131 072 avec YaRN.

• Vocabulaire — 100,355 vs 151,936.

• Langues — douze nommées (anglais, allemand, espagnol, français, japonais, portugais, arabe, tchèque, italien, coréen, néerlandais, chinois) contre plus de 100.

• Raisonnement — aucun contre la réflexion hybride et l'absence de réflexion dans un même checkpoint.

• Sortie structurée — softmax calibré sur les jetons d’étiquettes vs choix incité par l’invite.

• Entrée audio — encodeur ASR 470M intégré vs aucun.

• Écosystème — qui n'a que deux jours, sans quantifications ni ajustements fins à proprement parler, contre seize mois de travail communautaire.

Où Qwen3-8B l'emporte encore

Les langues, résolument. Douze langues nommées face à plus de cent, ce n'est pas une erreur d'arrondi pour quiconque livre à un public mondial, et c'est la première chose qu'un test de migration détectera. Le vocabulaire raconte la même histoire : 151 936 jetons contre 100 355, avec les trois identifiants d'adaptateur réservés de Granite qui l'arrondissent à 100 355. Un modèle entraîné sur cent langues a été entraîné sur cent langues.

Le contexte natif est le deuxième. 131 072 jetons d'emblée contre 32 768 avec une voie d'extension YaRN. Granite Switch 4.1 8B atteint justement les mêmes 131 K, mais il y parvient nativement, et l'extension YaRN a un coût sur le comportement en contexte long qu'une fenêtre native n'a pas.

Le troisième est celui qui décide de la plupart des migrations réelles : rien n’est cassé. Il n’y a aucune intégration à réécrire, aucune pile de service à modifier, aucun comportement à réapprendre. Chaque mode de défaillance a déjà été cartographié par quelqu’un d’autre, et les fine-tunes que vous avez peut-être déjà vous appartiennent. Un challenger doit être sensiblement meilleur pour que cela vaille la peine d’abandonner, et à deux jours d’existence, sans évaluation indépendante, Granite Switch 4.1 8B n’a pas établi qu’il l’était.

Où Granite Switch 4.1 8B gagne

Notation de décision, et la forme opérationnelle qui l’accompagne. Si votre application a besoin d’une valeur de confiance sur des options étiquetées — acheminer un ticket, noter un seuil d’escalade, choisir un outil auquel un nombre est associé — c’est une primitive que Qwen3-8B ne fournit pas, et le prompting n’en fabrique pas. Le chiffre publié pour cet adaptateur est le Decision Index, édition v0.3, sous-ensemble public rapide de 1 068 lignes : 42,9 au global, avec Connaissances 29,1, Langue 48,9, Récupération 49,8, Outils 59,8 et Arts 18,0. IBM l’a exécuté, IBM l’a publié, personne ne l’a reproduit, et la fiche elle-même indique que les probabilités sont un a priori plutôt qu’une classification certifiée sur des domaines pour lesquels l’adaptateur n’a pas été entraîné.

La consolidation des points de terminaison est la deuxième. Chat, décisions et transcription sur un seul point de terminaison, avec la transcription déclenchée par une partie de contenu ordinaire de type input_audio plutôt que par un second service. Les mises en garde de la fiche d'IBM s'appliquent et méritent d'être répétées fidèlement, dans l'esprit : anglais uniquement, sortie en minuscules et sans ponctuation, et l'encodeur vocal et le LLM ne sont pas entraînés conjointement, de sorte qu'une transcription erronée peut modifier silencieusement ce à quoi le modèle répond.

Et la composabilité est le troisième point : le composeur est public, le catalogue d’adaptateurs est ouvert, et vous pouvez créer votre propre variante plutôt que d’accepter le choix d’IBM de deux adaptateurs.

Que faire pendant que l’emplacement 8B est vide

La démarche productive n’est pas de migrer. Elle consiste à considérer Granite Switch 4.1 8B comme un candidat pour les requêtes spécifiques que Qwen3-8B traite mal — celles qui se terminent par une valeur de confiance, ou qui arrivent sous forme audio — et à laisser tout le reste où il est. C’est un problème de routage, pas une réécriture : envoyez les appels de type décision d’un côté et le trafic conversationnel de l’autre, et gardez le chemin de repli intact pendant que vous déterminez si la nouvelle configuration tient réellement le coup sur votre trafic.

C'est la couche qu'occupe OrcaRouter, et il vaut la peine d'être précis sur ce que cela signifie ici : Qwen3-8B ne figure pas dans notre catalogue aujourd'hui, et Granite Switch 4.1 8B non plus, donc nous ne sommes pas un moyen d'obtenir l'un ou l'autre — Qwen3-8B est un téléchargement Hugging Face et Granite Switch 4.1 8B est un téléchargement Hugging Face plus un conteneur vLLM. Ce que fait la plateforme, c'est le travail autour : une seule clé API pour plus de 200 modèles hébergés, un basculement automatique pour qu'un candidat puisse se trouver dans un chemin de production sans constituer un point de défaillance unique, le DSL de routage pour composer plusieurs modèles en un seul appel, et le prix catalogue du fournisseur répercuté avec 0 % de marge afin qu'une baisse de prix d'un fournisseur soit effective le jour même plutôt qu'à la prochaine actualisation. Si vous voulez voir à quoi ressemble un Qwen de génération actuelle sur un point de terminaison hébergé pendant que vous évaluez cela, Qwen3.8-27B figure au catalogue et appartient à la même famille que le titulaire dans cette comparaison.

L'essentiel

Conservez Qwen3-8B comme modèle par défaut. Seize mois de production, plus d'une centaine de langues et un vocabulaire de 151 936 tokens ne sont pas des avantages qu'un checkpoint vieux de deux jours surmonte par sa seule architecture, et le fait qu'Alibaba n'ait pas livré de successeur 8B ne fait pas de Granite Switch 4.1 8B ce successeur — cela en fait un outil différent qui se trouve tomber dans la même classe de mémoire. Adoptez-le de manière étroite et ciblée : pour les requêtes qui nécessitent une distribution calibrée sur des options étiquetées, pour le filtrage de sécurité en ligne, et pour l'audio sur le même point de terminaison que le chat. Testez-le sur votre propre jeu d'étiquettes avant de faire confiance à 42,9, car ce chiffre est celui d'IBM, et d'IBM seul. Ce qui est intéressant dans cette confrontation, ce n'est pas qu'un modèle batte l'autre — c'est que le créneau des 8B soit resté vide, et que le modèle qui l'occupera ensuite pourrait bien ne pas être un 8B dense du tout.