ZwZ2-9B vs MathForm-8B: stesso tronco, due quantità di verità molto diverse

Due modelli pubblicati a otto settimane di distanza, da due laboratori diversi, costruiti su due generazioni diverse della stessa famiglia — e i loro tronchi hanno la stessa larghezza. MathForm-8B, rilasciato da OpenBMB il 14 agosto 2026 come fine-tune di Qwen3-8B, esegue 36 livelli con dimensione nascosta 4.096 e una dimensione intermedia di 12.288. ZwZ2-9B, pubblicato da inclusionAI il 16 ottobre 2026 sullo stack Qwen3.5-9B, esegue 32 livelli con dimensione nascosta 4.096 e una dimensione intermedia di 12.288. Pur con generazioni genitrici distanti, vocabolari di 151.936 e 248.320, compiti completamente diversi — e la stessa geometria del tronco 4.096 per 12.288 in entrambi. Ciò che li separa non è l'architettura. È che uno di essi arriva con un articolo, un dataset, un'infrastruttura di valutazione e una licenza, e l'altro arriva con otto file.

La versione breve: se puoi descrivere il tuo problema come "trasforma questa prosa in Lean 4", MathForm-8B è uno specialista documentato con numeri pubblicati e dovresti usarlo. Se il tuo problema riguarda i pixel e vuoi un modello visione-linguaggio generale, ZwZ2-9B è un checkpoint da 9,4B che nessuno ha caratterizzato, e adottarlo significa diventare il suo primo valutatore. La parte interessante del confronto è ciò che quell'asimmetria insegna su quanto valga un'eredità condivisa.

Due discendenti, a una generazione di distanza

MathForm-8B è un derivato di Qwen3-8B e lo dichiara apertamente: la sua scheda riporta il modello base, il dataset di addestramento, il metodo di addestramento e il paper. La configurazione è un layout Qwen3 da manuale — 36 livelli, 32 teste di query contro 8 teste key-value con dimensione della testa 128, un vocabolario di 151.936 token, un limite di 40.960 posizioni, base rotatoria 1.000.000 e attenzione completa in ogni livello. Niente di esotico, niente di nascosto.

ZwZ2-9B è un derivato di Qwen3.5-9B che lo dichiara solo tramite un singolo tag di Hub. La sua configurazione si risolve in Qwen3_5ForConditionalGeneration, e ogni valore architetturale corrisponde a Qwen3.5-9B tranne un livello di predizione multi-token eliminato. Il vocabolario da 248.320 token, il limite di 262.144 posizioni, l'M-RoPE interlacciato e la torre della visione sono tutti ereditati invariati.

• Parametri — ZwZ2-9B: 9.409.813.744. MathForm-8B: 8 miliardi, secondo la sua scheda.

• Genitore — Qwen3.5-9B vs Qwen3-8B, quindi i due ereditano design di attenzione diversi da generazioni Qwen diverse.

• Attenzione — 24 layer di attenzione lineare più 8 layer di attenzione completa rispetto all'attenzione completa in tutti i 36 layer.

• Geometria del trunk — dimensione nascosta 4.096 e dimensione intermedia 12.288 in entrambi.

• Vocabolario — 248.320, con ID dei token di immagini e video al suo interno, rispetto a 151.936 e solo testo.

• Limite di contesto — 262.144 posizioni rispetto a 40.960.

• Modalità in — testo, immagine e video vs solo testo.

• Prove pubblicate — un file di configurazione rispetto a un paper, un dataset, una pipeline di valutazione e i termini Apache-2.0.

Cosa mette sul tavolo MathForm-8B

La scheda è insolitamente completa, e vale la pena esaminarla nel dettaglio perché il contrasto successivo dipende da essa. MathForm-8B traduce affermazioni matematiche in linguaggio naturale in Lean 4. È stato addestrato su FormalVerse — un dataset pubblicato da OpenBMB insieme ad esso — tramite fine-tuning supervisionato e poi apprendimento per rinforzo, con la compilazione Lean e il feedback di coerenza semantica che forniscono il segnale di ricompensa. L'articolo è MathForm: Scalare l'autoformalizzazione matematica con recupero di conoscenza e raffinamento guidato dalla verifica, arXiv 2608.14221, e il repository include la pipeline di valutazione, i file di benchmark e gli script Pass@k.

I risultati sono riportati come tassi di successo Pass@8 secondo due criteri distinti: un Controllo della sintassi, che significa che il Lean generato compila effettivamente, e un Controllo di coerenza, che significa che compila e dice la stessa cosa del problema originale. Su sei benchmark la scheda riporta una media macro di 88,06 per la sintassi e 72,37 per la coerenza, davanti agli altri autoformalizzatori da 8B che elenca e davanti a diverse voci da 32B nella colonna della sintassi. Quest'ultimo confronto è il tipo di affermazione che vale la pena verificare invece di ripetere, e c'è un dettaglio nella configurazione che rende la verifica non banale: i controlli di compilazione richiedono un Kimina Lean Server in esecuzione, e gli esperimenti usavano Lean 4.21.0. Questo non è un checkpoint che puoi valutare con uno script Python.

Ogni numero sopra è dichiarato dal fornitore. OpenBMB ha eseguito la valutazione, OpenBMB l'ha pubblicata, e il repository include effettivamente gli script per riprodurla — cosa che è più di quanto offra la maggior parte dei laboratori ed è il motivo per cui i numeri valgono qualcosa anche se non verificati. La scheda pubblica anche le impostazioni di generazione consigliate, temperatura 0,6 e top-p 0,95, che è il genere di piccolo dettaglio operativo che un modello senza scheda ti lascia indovinare.

Cosa mette sul tavolo ZwZ2-9B

Un config.json, un tokenizer_config.json, un template di chat e 18,8 GB di pesi. Non c'è README, né campo di licenza, né pipeline tag, né dataset. L'Hub riporta zero download e due like, e nessuna collezione inclusionAI lo contiene.

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

Ciò che nulla di tutto questo ti dice è in che cosa il modello sia bravo, su cosa sia stato addestrato, se sia un modello per istruzioni o qualcos'altro, o a quali condizioni tu possa usarlo. MathForm-8B risponde a tutte e quattro le domande nella sua prima schermata. ZwZ2-9B non risponde a nessuna di esse da nessuna parte.

Il 4,096 condiviso non è una coincidenza, e non è una scorciatoia.

Entrambi i modelli usano un tronco largo 4.096 con una dimensione intermedia di 12.288, e la ragione è la stessa in entrambi i casi: una generazione Qwen di quella dimensione. Qwen3-8B e Qwen3.5-9B sono progetti diversi — attenzione completa lungo tutta la rete rispetto a un mix tre a uno di attenzione lineare e completa — ma entrambi sono costruiti sulla stessa larghezza, perché è così che è fatto un Qwen piccolo. Osservare un fine-tune che eredita ogni singola dimensione del suo genitore è la prova più chiara disponibile del fatto che i fine-tune ereditano in blocco le proprietà del loro genitore: i punti di forza e le modalità di fallimento, non solo la forma. MathForm-8B ti dice da quale genitore proviene, così puoi andare a cercare informazioni al riguardo. ZwZ2-9B non lo fa, e il tag dell'Hub è l'unico filo che riporta indietro.

Quale ti serve davvero

Questi non sono sostituti, e la sovrapposizione è quasi zero. MathForm-8B fa una sola cosa: trasforma un’affermazione matematica in linguaggio naturale in Lean 4 che compila. L’intero suo apparato di valutazione, inclusa la necessità di un server Lean in esecuzione, è costruito attorno a questo. Se è questo il tuo problema, è una risposta solida, documentata e con licenza Apache-2.0, con strumenti riproducibili, e la cifra di coerenza di 72,37 è il numero da battere — coerenza, non sintassi, perché una formalizzazione che compila ma significa qualcos’altro è un bug che ti costa più di una compilazione fallita.

ZwZ2-9B è un modello generale visione-linguaggio. Non è mai stato valutato sull'autoformalizzazione, non ha considerazioni degne di nota su un tokenizer per Lean ed è stato pubblicato da un laboratorio il cui lavoro precedente riguardava la percezione visiva a grana fine. Non cercare un punteggio di ZwZ2-9B su un benchmark Lean; non c'è alcuna ragione perché ne esista uno.

La vera domanda è se si voglia davvero uno specialista o un generalista. Uno specialista è migliore nel suo unico compito e inutile al di fuori di esso. Un generalista è peggiore in tutto ciò che è specifico ed è l'unica opzione quando la forma dell'input varia. Il motivo per cui questo confronto è sbilanciato non sono le otto settimane che li separano o il miliardo di parametri — è che uno di essi è stato pubblicato con la documentazione di cui uno specialista ha bisogno e l'altro è stato pubblicato come punto di partenza per il lavoro di qualcun altro.

Se vuoi entrambe le capacità in un'unica pipeline

Esiste uno schema reale in cui queste due modalità si incontrano: un modello generale legge un documento ambiguo, ne estrae l'affermazione matematica, la passa a un formalizzatore, e un verificatore decide se il risultato regge. Si tratta di tre chiamate a modello con ruoli diversi, ed è la forma che un livello di routing ha lo scopo di rendere economica — il DSL di routing di OrcaRouter compone diversi modelli in un'unica chiamata così un fan-out e una richiesta di follow-up sono un'unica chiamata anziché un servizio di orchestrazione da mantenere. La fusione di modelli, in cui un panel di modelli risponde insieme e un giudice sceglie la risposta più forte, è la stessa idea applicata a una singola domanda difficile anziché a una pipeline.

Né ZwZ2-9B né MathForm-8B è nel nostro catalogo, e non abbiamo intenzione di abbellire la cosa: MathForm-8B è scaricabile con licenza Apache-2.0 e può essere servito dalla tua istanza vLLM o SGLang, mentre ZwZ2-9B è un repository senza alcun endpoint. Ciò che oggi è instradabile dal lato reasoning di quella pipeline è qwen/qwen3.8-27b — il flagship dense di generazione attuale di Qwen, Apache-2.0, con una finestra di contesto di 262K token e un tetto massimo ospitato di 1M token a $0,33 per milione di token in input e $2,40 per milione in output, passato al prezzo di listino del provider senza alcun ricarico.

Quanto vale l'asimmetria

MathForm-8B è il modello su cui vale la pena scrivere di più, perché c'è qualcosa da verificare. ZwZ2-9B è l'artefatto più interessante, perché un checkpoint da 9,4B con un template di chat ottimizzato e una testa di previsione rimossa è la prova che qualcuno ha fatto un lavoro serio — e perché inclusionAI ha un track record con il nome ZwZ che rende il prossimo post degno di attenzione.

Per chiunque debba decidere oggi, la regola è poco affascinante. Un articolo pubblicato, un dataset, un modello base con un nome e una licenza dichiarata non sono burocrazia. Sono la differenza tra un modello su cui puoi pianificare e un modello che devi decostruire, e nessuna architettura per quanto interessante può colmare quel divario.

Un risultato come questo è anche un promemoria del fatto che gli errori dei modelli sono già documentati: gli incidenti AI e i fallimenti degli agenti dietro i modelli di questa classe sono raccolti in l'OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.