ZwZ2-9B vs MathForm-8B: Samma stam, två väldigt olika mängder sanning

Två modeller publicerade åtta veckor isär, från två olika labb, byggda på två olika generationer av samma familj — och deras trunkar har samma bredd. MathForm-8B, släppt av OpenBMB den 14 augusti 2026 som en finjustering av Qwen3-8B, kör 36 lager vid dold storlek 4 096 med en mellanstorlek på 12 288. ZwZ2-9B, publicerad av inclusionAI den 16 oktober 2026 på Qwen3.5-9B-stacken, kör 32 lager vid dold storlek 4 096 med en mellanstorlek på 12 288. Med föräldragenerationer åtskilda, vokabulärer på 151 936 och 248 320, helt olika uppgifter — och samma trunkgeometri på 4 096 gånger 12 288 i båda. Det som skiljer dem åt är inte arkitekturen. Det är att en av dem kommer med en artikel, en datauppsättning, ett utvärderingsramverk och en licens, och den andra kommer med åtta filer.

Kortversionen: om du kan beskriva ditt problem som "gör om den här prosan till Lean 4", är MathForm-8B en dokumenterad specialist med publicerade siffror och den bör du använda. Om ditt problem handlar om pixlar och du vill ha en generell visions-språkmodell, är ZwZ2-9B en checkpoint på 9,4B som ingen har karakteriserat, och att ta den i bruk innebär att bli dess första utvärderare. Det intressanta med jämförelsen är vad den asymmetrin lär oss om hur mycket ett gemensamt arv är värt.

Två ättlingar, en generation ifrån varandra

MathForm-8B är ett derivat av Qwen3-8B och säger det öppet: dess kort anger basmodellen, träningsdatasetet, träningsmetoden och artikeln. Konfigurationen är en Qwen3-layout direkt ur läroboken – 36 lager, 32 query-huvuden mot 8 key-value-huvuden med huvuddimension 128, ett ordförråd på 151 936 token, ett tak på 40 960 positioner, rotationsbas 1 000 000 och full attention i varje lager. Inget exotiskt, inget dolt.

ZwZ2-9B är ett Qwen3.5-9B-derivat som endast säger det genom en enda Hub-tagg. Dess konfiguration löses upp till Qwen3_5ForConditionalGeneration, och varje arkitektoniskt värde matchar Qwen3.5-9B förutom ett borttaget multi-token-prediction-lager. Vokabulären med 248 320 token, taket på 262 144 positioner, den interfolierade M-RoPE och visionstornet har alla ärvts oförändrade.

• Parametrar — ZwZ2-9B: 9 409 813 744. MathForm-8B: 8 miljarder, enligt dess kort.

• Förälder — Qwen3.5-9B vs Qwen3-8B, så de två ärver olika attention-designer från olika Qwen-generationer.

• Uppmärksamhet — 24 linjära uppmärksamhetslager plus 8 lager med full uppmärksamhet jämfört med full uppmärksamhet i alla 36 lager.

• Stamgeometri — dold storlek 4 096 och mellanliggande storlek 12 288 i båda.

• Vokabulär — 248 320, med bild- och video-token-id:n i sig, jämfört med 151 936 och enbart text.

• Kontexttak — 262 144 positioner mot 40 960.

• Modaliteter i — text, bild och video kontra endast text.

• Bevis publicerat — en konfigurationsfil kontra en artikel, en datauppsättning, en utvärderingspipeline och Apache-2.0-villkor.

Vad MathForm-8B har att erbjuda

Kortet är ovanligt komplett, och det är värt att gå igenom eftersom kontrasten senare beror på det. MathForm-8B översätter matematiska påståenden i naturligt språk till Lean 4. Den tränades på FormalVerse — ett dataset som OpenBMB publicerade tillsammans med den — genom övervakad finjustering och därefter förstärkningsinlärning, där Lean-kompilering och återkoppling om semantisk konsistens gav belöningssignalen. Artikeln är MathForm: Att skala matematisk autoformalisering med kunskapsåtervinning och verifieringsstyrd förfining, arXiv 2608.14221, och repot innehåller utvärderingspipelinen, benchmarkfilerna och Pass@k-skripten.

Resultaten rapporteras som Pass@8-godkännandefrekvenser enligt två separata kriterier: en syntaxkontroll, vilket innebär att den genererade Lean-koden faktiskt kompilerar, och en konsistenskontroll, vilket innebär att den kompilerar och säger samma sak som originalproblemet. Över sex benchmarks rapporterar kortet ett makrogenomsnitt på 88,06 för syntax och 72,37 för konsistens, före de andra 8B-autoformaliserare som listas och före flera 32B-poster i syntaxkolumnen. Den sista jämförelsen är en sådan typ av påstående som är värd att testa snarare än att upprepa, och det finns en detalj i uppställningen som gör att testa det icke-trivialt: kompileringskontroller kräver en körande Kimina Lean Server, och experimenten använde Lean 4.21.0. Detta är inte en checkpoint som du kan poängsätta med ett Python-skript.

Alla siffror ovan är rapporterade av leverantören. OpenBMB körde utvärderingen, OpenBMB publicerade den, och repositoriet innehåller faktiskt skripten för att reproducera den – vilket är mer än de flesta labb erbjuder och är anledningen till att siffrorna är värda något även utan verifiering. Modellkortet publicerar också sina rekommenderade genereringsinställningar, temperatur 0,6 och top-p 0,95, vilket är den sortens lilla operativa detalj som man får gissa sig till när en modell saknar kort.

Vad ZwZ2-9B erbjuder

En config.json, en tokenizer_config.json, en chattmall och 18,8 GB vikter. Det finns ingen README, inget licensfält, ingen pipeline-tagg och inget dataset. The Hub rapporterar noll nedladdningar och två gillamarkeringar, och ingen inclusionAI-samling innehåller den.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

Det som inget av det där berättar för dig är vad modellen är bra på, vad den tränades på, om den är en instruktionsmodell eller något annat, eller under vilka villkor du får använda den. MathForm-8B besvarar alla fyra frågorna på sin första skärm. ZwZ2-9B besvarar ingen av dem någonstans.

Det gemensamma 4 096 är ingen tillfällighet, och det är ingen genväg.

Båda modellerna använder en stam med bredden 4 096 och en mellanliggande storlek på 12 288, och orsaken är densamma i båda fallen: en Qwen-generation av den storleken. Qwen3-8B och Qwen3.5-9B är olika konstruktioner – full attention genomgående kontra en tre-till-ett-blandning av linjär och full attention – men båda är byggda på samma bredd, eftersom det är vad en liten Qwen är. Att se en finjusterad modell ärva varje dimension från sin förälder är det tydligaste beviset som finns på att finjusterade modeller ärver sina föräldrars egenskaper i sin helhet: styrkorna och fellägena, inte bara formen. MathForm-8B berättar vilken förälder den kommer från, så du kan gå och läsa om den. ZwZ2-9B gör det inte, och Hub-taggen är den enda tråden tillbaka.

Vilken du faktiskt behöver

Dessa är inte substitut, och överlappningen är nästan noll. MathForm-8B gör en sak: det omvandlar ett matematiskt påstående i naturligt språk till Lean 4 som kompilerar. Hela dess utvärderingsapparat, inklusive kravet på en körande Lean-server, är uppbyggd kring det. Om det är ditt problem är det ett starkt, dokumenterat svar under Apache-2.0 med reproducerbara verktyg, och konsistenssiffran 72,37 är numret att slå — konsistens, inte syntax, eftersom en formalisering som kompilerar men betyder något annat är en bugg som kostar dig mer än en misslyckad kompilering.

ZwZ2-9B är en allmän vision-språkmodell. Den har aldrig utvärderats för autoformalisering, har inga Lean-tokenizeröverväganden att tala om och publicerades av ett labb vars tidigare arbete handlade om finkornig visuell perception. Leta inte efter en ZwZ2-9B-poäng på ett Lean-benchmark; det finns ingen anledning för en sådan att existera.

Den verkliga frågan är om du överhuvudtaget vill ha en specialist eller en generalist. En specialist är bättre på sin enda uppgift och oanvändbar utanför den. En generalist är sämre på allt specifikt och är det enda alternativet när indataformen varierar. Anledningen till att den här jämförelsen är ojämn är inte de åtta veckorna mellan dem eller miljardparametrarna – det är att en av dem publicerades med den dokumentation en specialist behöver och den andra publicerades som en utgångspunkt för någon annans arbete.

Om du vill ha båda förmågorna i en och samma pipeline

Det finns ett verkligt mönster där dessa två lägen möts: en allmän modell läser ett tvetydigt dokument, extraherar det matematiska påståendet, överlämnar det till en formaliserare, och en kontrollör avgör om resultatet håller. Det är tre modellanrop med olika roller, och det är den form som ett routningslager finns till för att göra billig — OrcaRouters routing DSL komponerar flera modeller till ett enda anrop så att en fan-out och en uppföljning är en enda begäran i stället för en orkestreringstjänst som du underhåller. Modellfusion, där en panel av modeller svarar tillsammans och en domare väljer det starkaste svaret, är samma idé tillämpad på en enda svår fråga i stället för på en pipeline.

Varken ZwZ2-9B eller MathForm-8B finns i vår katalog, och vi tänker inte försköna det: MathForm-8B kan laddas ner under Apache-2.0 och köras från din egen vLLM- eller SGLang-instans, och ZwZ2-9B är ett repositorium utan någon endpoint alls. Det som i dag går att routa från resonemangssidan av den pipelinen är qwen/qwen3.8-27b — Qwens nuvarande generations täta flaggskeppsmodell, Apache-2.0, med en kontext på 262K tokens och ett tak på 1M tokens i hostad miljö till $0.33 per miljon indatatokens och $2.40 per miljon utdatatokens, förmedlad vidare till leverantörens listpris utan något påslag.

Vad asymmetrin är värd

MathForm-8B är den bättre modellen att skriva om, för det finns något att kontrollera. ZwZ2-9B är den mer intressanta artefakten, för en 9,4B-checkpoint med en justerad chattmall och ett avskalat prediktionshuvud är bevis på att någon gjorde verkligt arbete – och för att inclusionAI har en historik med namnet ZwZ som gör nästa inlägg värt att hålla utkik efter.

För alla som ska fatta beslut i dag är regeln oglamorös. En publicerad artikel, ett dataset, en namngiven basmodell och en angiven licens är inte pappersarbete. De är skillnaden mellan en modell du kan planera utifrån och en modell du måste reverse-engineera, och ingen mängd intressant arkitektur stänger det gapet.

Ett resultat som detta är också en påminnelse om att modellmisstag redan är dokumenterade: AI-incidenterna och agentfelen bakom modeller i den här klassen samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omtvistat.