ZwZ2-9B vs MathForm-8B : même tronc, deux quantités de vérité très différentes

Deux modèles publiés à huit semaines d'intervalle, provenant de deux laboratoires différents, construits sur deux générations différentes de la même famille — et leurs troncs ont la même largeur. MathForm-8B, publié par OpenBMB le 14 août 2026 comme un fine-tuning de Qwen3-8B, comporte 36 couches à une taille cachée de 4 096 avec une taille intermédiaire de 12 288. ZwZ2-9B, mis en ligne par inclusionAI le 16 octobre 2026 sur la pile Qwen3.5-9B, comporte 32 couches à une taille cachée de 4 096 avec une taille intermédiaire de 12 288. Des générations parentes différentes, des vocabulaires de 151 936 et 248 320, des tâches entièrement différentes — et la même géométrie de tronc de 4 096 par 12 288 dans les deux. Ce qui les sépare n'est pas l'architecture. C'est que l'un d'eux est livré avec un article, un jeu de données, un harnais d'évaluation et une licence, et l'autre est livré avec huit fichiers.

La version courte : si vous pouvez décrire votre problème comme « transformer cette prose en Lean 4 », MathForm-8B est un spécialiste documenté avec des chiffres publiés, et vous devriez l’utiliser. Si votre problème implique des pixels et que vous voulez un modèle vision-langage généraliste, ZwZ2-9B est un checkpoint de 9,4B que personne n’a caractérisé, et l’adopter signifie devenir son premier évaluateur. La partie intéressante de la comparaison, c’est ce que cette asymétrie enseigne sur la valeur d’un héritage partagé.

Deux descendants, à une génération d'écart

MathForm-8B est un dérivé de Qwen3-8B et le dit ouvertement : sa fiche indique le modèle de base, le jeu de données d’entraînement, la méthode d’entraînement et l’article. La configuration est une architecture Qwen3 de manuel : 36 couches, 32 têtes de requête pour 8 têtes clé-valeur avec une dimension de tête de 128, un vocabulaire de 151 936 jetons, un plafond de 40 960 positions, une base rotative de 1 000 000 et une attention complète dans chaque couche. Rien d’exotique, rien de caché.

ZwZ2-9B est un dérivé de Qwen3.5-9B qui ne le dit que par un seul tag Hub. Sa configuration se résout en Qwen3_5ForConditionalGeneration, et chaque valeur architecturale correspond à Qwen3.5-9B, à l'exception d'une couche de prédiction multi-token supprimée. Le vocabulaire de 248 320 tokens, le plafond de 262 144 positions, le M-RoPE entrelacé et la tour de vision sont tous hérités sans changement.

• Paramètres — ZwZ2-9B : 9 409 813 744. MathForm-8B : 8 milliards, selon sa fiche.

• Parent — Qwen3.5-9B vs Qwen3-8B, les deux héritent donc de conceptions d’attention différentes issues de générations Qwen distinctes.

• Attention — 24 couches d’attention linéaire plus 8 couches d’attention complète, contre une attention complète dans toutes les 36 couches.

• Géométrie du tronc — taille cachée 4 096 et taille intermédiaire 12 288 dans les deux.

• Vocabulaire — 248 320, avec des ID de tokens d’image et de vidéo à l’intérieur, contre 151 936 et texte uniquement.

• Plafond de contexte — 262 144 positions contre 40 960.

• Modalités en — texte, image et vidéo vs texte uniquement.

• Preuves publiées — un fichier de configuration vs un article, un jeu de données, un pipeline d’évaluation et des conditions Apache-2.0.

Ce que MathForm-8B met sur la table

La fiche est inhabituellement complète, et il vaut la peine de la parcourir en détail car le contraste ultérieur en dépend. MathForm-8B traduit des énoncés mathématiques en langage naturel vers Lean 4. Il a été entraîné sur FormalVerse — un jeu de données publié par OpenBMB en même temps — par affinage supervisé puis apprentissage par renforcement, la compilation Lean et les retours de cohérence sémantique fournissant le signal de récompense. L'article est MathForm : Passer à l'échelle l'autoformalisation mathématique avec récupération de connaissances et raffinement guidé par vérification, arXiv 2608.14221, et le dépôt inclut le pipeline d'évaluation, les fichiers de benchmark et les scripts Pass@k.

Les résultats sont rapportés sous forme de taux de réussite Pass@8 selon deux critères distincts : une vérification de syntaxe, signifiant que le Lean généré compile réellement, et une vérification de cohérence, signifiant qu'il compile et dit la même chose que le problème d'origine. Sur six benchmarks, la fiche rapporte une moyenne macro de 88,06 en syntaxe et de 72,37 en cohérence, devant les autres autoformaliseurs 8B qu'elle liste et devant plusieurs entrées 32B dans la colonne syntaxe. Cette dernière comparaison est le genre d'affirmation qui mérite d'être testée plutôt que répétée, et il y a un détail dans le dispositif qui rend son test non trivial : les vérifications de compilation nécessitent un Kimina Lean Server en cours d'exécution, et les expériences ont utilisé Lean 4.21.0. Ce n'est pas un point de contrôle que l'on peut évaluer avec un script Python.

Tous les chiffres ci-dessus sont déclarés par le fournisseur. OpenBMB a réalisé l’évaluation, OpenBMB l’a publiée, et le dépôt inclut bien les scripts permettant de la reproduire — ce que la plupart des laboratoires ne proposent pas, et c’est pourquoi ces chiffres valent quelque chose même s’ils ne sont pas vérifiés. La fiche modèle publie également ses paramètres de génération recommandés, température 0,6 et top-p 0,95, soit le genre de petit détail opérationnel qu’un modèle sans fiche vous laisse deviner.

Ce que ZwZ2-9B apporte sur la table

Un config.json, un tokenizer_config.json, un template de chat et 18,8 Go de poids. Il n'y a pas de README, pas de champ de licence, pas de tag de pipeline, ni de jeu de données. Le Hub signale zéro téléchargement et deux likes, et aucune collection inclusionAI ne le contient.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

Ce que rien de tout cela ne vous dit, c’est ce pour quoi le modèle est bon, sur quoi il a été entraîné, s’il s’agit d’un modèle d’instruction ou d’autre chose, ou selon quelles conditions vous pouvez l’utiliser. MathForm-8B répond à ces quatre questions dès son premier écran. ZwZ2-9B ne répond à aucune d’entre elles, nulle part.

Le 4 096 partagé n’est pas une coïncidence, et ce n’est pas un raccourci.

Les deux modèles utilisent un tronc de 4 096 de large avec une taille intermédiaire de 12 288, et la raison est la même dans les deux cas : une génération Qwen de cette taille. Qwen3-8B et Qwen3.5-9B sont des conceptions différentes — attention complète de bout en bout contre un mélange de trois pour un d’attention linéaire et complète — mais tous deux reposent sur la même largeur, parce que c’est ce qu’est un petit Qwen. Observer un fine-tune hériter de chaque dimension de son parent est la preuve la plus claire disponible que les fine-tunes héritent en bloc des propriétés de leur parent : les forces et les modes de défaillance, pas seulement la forme. MathForm-8B vous dit de quel parent il vient, vous pouvez donc aller vous renseigner à son sujet. ZwZ2-9B ne le fait pas, et le tag du Hub est le seul fil de retour.

Lequel vous faut-il réellement ?

Ce ne sont pas des substituts, et le recouvrement est proche de zéro. MathForm-8B fait une seule chose : il transforme un énoncé mathématique en langage naturel en Lean 4 qui compile. Tout son appareil d’évaluation, y compris l’exigence d’un serveur Lean en fonctionnement, est construit autour de cela. Si c’est votre problème, c’est une réponse solide, documentée, sous Apache-2.0, avec des outils reproductibles, et le chiffre de cohérence de 72,37 est le nombre à battre — la cohérence, pas la syntaxe, car une formalisation qui compile mais signifie autre chose est un bug qui vous coûte plus cher qu’un échec de compilation.

ZwZ2-9B est un modèle généraliste de vision-langage. Il n’a jamais été évalué en autoformalisation, ne présente aucune considération liée au tokenizer Lean dont on puisse parler, et a été publié par un laboratoire dont les travaux antérieurs portaient sur la perception visuelle à grain fin. Ne cherchez pas de score de ZwZ2-9B sur un benchmark Lean ; il n’y a aucune raison pour qu’un tel score existe.

La véritable question est de savoir si vous voulez un spécialiste ou un généraliste, tout court. Un spécialiste est meilleur dans son unique tâche et inutile en dehors. Un généraliste est moins bon dans tout ce qui est spécifique et représente la seule option lorsque la forme des entrées varie. Ce qui rend cette comparaison déséquilibrée, ce ne sont pas les huit semaines qui les séparent ni le milliard de paramètres : c’est que l’un des deux a été publié avec la documentation dont un spécialiste a besoin, tandis que l’autre a été publié comme point de départ pour le travail de quelqu’un d’autre.

Si vous voulez les deux capacités dans un seul pipeline

Il existe un schéma bien réel où ces deux modes se rejoignent : un modèle général lit un document ambigu, en extrait l'énoncé mathématique, le confie à un formalisateur, et un vérificateur décide si le résultat tient. Cela représente trois appels de modèles aux rôles différents, et c'est la forme qu'une couche de routage a pour raison d'être de rendre peu coûteuse — Le DSL de routage d'OrcaRouter compose plusieurs modèles en un seul appel de sorte qu'une distribution en éventail et un suivi ne forment qu'une seule requête plutôt qu'un service d'orchestration à maintenir. La fusion de modèles, où un panel de modèles répond collectivement et un juge sélectionne la réponse la plus solide, est la même idée appliquée à une seule question difficile plutôt qu'à un pipeline.

Ni ZwZ2-9B ni MathForm-8B ne figurent dans notre catalogue, et nous n'allons pas enjoliver les choses : MathForm-8B est téléchargeable sous Apache-2.0 et peut être servi depuis votre propre instance vLLM ou SGLang, tandis que ZwZ2-9B est un dépôt sans aucun endpoint. Ce qui est routable aujourd'hui du côté raisonnement de ce pipeline, c'est qwen/qwen3.8-27b — le fleuron dense de la génération actuelle de Qwen, sous Apache-2.0, avec un contexte de 262K jetons et un plafond hébergé de 1M de jetons à 0,33 $ par million de jetons d'entrée et 2,40 $ par million de jetons de sortie, répercuté au prix catalogue du fournisseur sans rien ajouter.

Ce que vaut l’asymétrie

MathForm-8B est le meilleur modèle sur lequel écrire, car il y a quelque chose à vérifier. ZwZ2-9B est l’artefact le plus intéressant, car un checkpoint de 9,4B avec un template de chat ajusté et une tête de prédiction supprimée prouve que quelqu’un a fait du vrai travail — et parce qu’inclusionAI a un historique avec le nom ZwZ qui rend le prochain post digne d’être suivi.

Pour quiconque doit décider aujourd'hui, la règle est sans éclat. Un article publié, un jeu de données, un modèle de base nommé et une licence déclarée ne sont pas de la paperasse. Ils font la différence entre un modèle autour duquel on peut planifier et un modèle dont il faut faire la rétro-ingénierie, et aucune architecture, aussi intéressante soit-elle, ne comble cet écart.

Un résultat comme celui-ci rappelle aussi que les erreurs de modèle sont déjà documentées : les incidents d'IA et les défaillances d'agents liés aux modèles de cette catégorie sont recensés dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son degré de gravité, sa note de confiance et son indicateur de contestation.