為文章生成的一張標題卡,標題為「ZwZ2-9B vs MathForm-8B」,副標題為「兩者皆 4,096 寬,僅其一有紀錄可查」,並有兩張圓角卡片,左側標示為「MathForm-8B」,上頭寫著「Qwen3-8B 微調」與「論文、資料集、Pass@8 結果」;右側標示為「ZwZ2-9B」,上頭寫著「Qwen3.5-9B 衍生版本」與「僅有設定檔」。頁腳寫著「相同的骨幹寬度,不同的證據份量。」OrcaRouter 標誌則合成於作品下方的白色區塊中。
Guides & Insights

ZwZ2-9B 與 MathForm-8B:相同主幹,截然不同的真實程度

作者

Alistair Wren

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

相隔八週發布的兩個模型,來自兩個不同實驗室,建立在同一家族兩個不同世代上——而它們的主幹寬度相同。MathForm-8B,由 OpenBMB 於 2026 年 8 月 14 日發布,作為 Qwen3-8B 的微調版本,以隱藏大小 4,096、中間大小 12,288 執行 36 層。ZwZ2-9B,由 inclusionAI 於 2026 年 10 月 16 日在 Qwen3.5-9B 堆疊上發布,以隱藏大小 4,096、中間大小 12,288 執行 32 層。母世代相隔,詞彙量分別為 151,936 與 248,320,工作任務完全不同——而兩者都有相同的 4,096×12,288 主幹幾何結構。區分它們的不是架構。而是其中一個附帶論文、資料集、評估工具與許可證,另一個則附帶八個檔案。

簡短版:如果你能把你的問題描述成「把這段文字轉成 Lean 4」,MathForm-8B 是一個有文獻記載的專用模型,有已發表的數據,你應該用它。如果你的問題涉及像素,而你想要一個通用的視覺語言模型,ZwZ2-9B 是一個 9.4B 檢查點,沒有人對它做過特性描述,採用它意味著成為它的第一位評估者。這個比較中有趣的部分,在於這種不對稱能教我們了解共享的繼承有多大價值。

兩個後代,相隔一代

MathForm-8B 是 Qwen3-8B 的衍生模型,而且公開表明這一點:它的模型卡記錄了基礎模型、訓練資料集、訓練方法與論文。其配置是教科書式的 Qwen3 架構——36 層、32 個查詢頭對上 8 個鍵值頭、頭維度 128、151,936 個 token 的詞彙表、40,960 位置的長度上限、旋轉基底 1,000,000,而且每一層都是完整注意力。沒有奇特之處,也沒有任何隱藏。

ZwZ2-9B 是 Qwen3.5-9B 的衍生模型,僅透過單一的 Hub 標籤表明這一點。其設定解析為 Qwen3_5ForConditionalGeneration,且除了刪去一個多詞元預測層之外,每個架構數值都與 Qwen3.5-9B 相符。248,320 個詞元的詞彙表、262,144 個位置的長度上限、交錯式 M-RoPE,以及視覺塔全都原封不動地繼承下來。

• 參數 — ZwZ2-9B:9,409,813,744。MathForm-8B:80 億,依其模型卡所示。

• 父系 — Qwen3.5-9B 與 Qwen3-8B,因此兩者分別繼承了來自不同 Qwen 世代的注意力設計。

• 注意力 — 24 層線性注意力加上 8 層全注意力,對比全部 36 層皆採用全注意力。

• 主幹幾何 — 兩者的隱藏大小皆為 4,096,中間大小皆為 12,288。

• 詞彙表 —— 248,320,其中包含圖像與影片的 token id,相較之下為 151,936 且僅有文字。

• 上下文上限 — 262,144 個位置對比 40,960 個位置。

• 納入的模態——文字、圖像與影片 vs 僅文字。

• 已發佈證據 — 一份設定檔對比一篇論文、一個資料集、一條評估流程以及 Apache-2.0 條款。

MathForm-8B 端出什麼菜

這張卡片異常完整,值得細細拆解,因為後面的對比正取決於它。MathForm-8B 會將自然語言的數學陳述轉譯為 Lean 4。它是在 FormalVerse 上訓練而成——這是 OpenBMB 隨之發布的資料集——先經過監督式微調,再進行強化學習,並以 Lean 編譯與語意一致性回饋提供獎勵訊號。該論文是MathForm: Scaling Mathematical Autoformalization with Knowledge Retrieval and Verification-Guided Refinement,arXiv 2608.14221,而該儲存庫包含評估流程、基準檔案以及 Pass@k 腳本。

結果以兩套不同準則下的 Pass@8 通過率呈現:語法檢查(Syntax Check),意指生成的 Lean 程式碼確實能編譯;以及一致性檢查(Consistency Check),意指它既能編譯,又與原始問題表達相同的內容。橫跨六個基準測試,該模型卡在語法方面回報巨集平均 88.06,在一致性方面為 72.37,領先其所列出的其他 8B 自動形式化工具,也在語法欄位上領先數個 32B 項目。最後那項比較,正是那種值得實際驗證、而非只是照樣複述的說法,而設定中有個細節讓驗證這件事變得沒那麼簡單:編譯檢查需要一個運行中的 Kimina Lean Server,且實驗使用的是 Lean 4.21.0。這不是用 Python 腳本就能評分的檢查點。

上方每一個數字都是廠商自行回報的。OpenBMB 執行了這項評測,OpenBMB 公布了結果,而該儲存庫確實包含可重現這項評測的指令碼——這比大多數實驗室願意提供的還多,也是這些數字即使未經查證仍具價值的原因。這張模型卡也公布了其建議的生成設定:temperature 0.6 與 top-p 0.95;這種細微的操作細節,正是沒有模型卡的模型會讓你只能自行猜測的地方。

A screenshot of the OpenBMB MathForm-8B model card on Hugging Face showing 9 likes, tags for Text Generation, Transformers, Safetensors, the openbmb/FormalVerse dataset, English, qwen3, lean4, autoformalization, mathematics, formal-verification, reasoning and Apache 2.0 licensing, a model size of 8B parameters in BF16, a Downloads last month figure of 532, a figure showing a five-stage data construction and training pipeline covering formalization generation, verification, refinement, trajectory reconstruction and training, and a partial Pass@8 results table headed by an AVG column and benchmark columns for FormalMATH, ProverBench, CombiBench and three more.

ZwZ2-9B 端出了什麼

一份 config.json、一份 tokenizer_config.json、一個聊天範本,以及 18.8 GB 的權重。這裡沒有 README、沒有授權欄位、沒有 pipeline 標籤,也沒有資料集。Hub 顯示零次下載與兩個讚,且沒有任何 inclusionAI 集合包含它。

Reading the files does yield real information, and it is worth doing before dismissing the checkpoint. The chat template injects a default system prompt when a request arrives without one, and it defaults to not reasoning — it emits an empty <think></think> block unless a caller explicitly asks for thinking, which is the opposite of what its Qwen3.5-9B parent does. The config carries a 27-layer vision tower and a video processor accepting up to 768 frames at 2 frames per second. The parameters are 9,409,813,744 across 760 tensors, all bfloat16.

那一切都沒告訴你的是:這個模型擅長什麼、它是用什麼訓練的、它是指令模型還是其他東西,或者你可以依什麼條款使用它。MathForm-8B 在它的首屏就回答了這四個問題。ZwZ2-9B 則在任何地方都沒有回答其中任何一個。

這個共用的 4,096 並非巧合,也不是捷徑。

兩個模型都使用寬度 4,096、中間大小 12,288 的主幹,而兩者的原因相同:那就是這個規模的 Qwen 世代。Qwen3-8B 與 Qwen3.5-9B 是不同的設計——前者全程使用完整注意力,後者則以三比一混合線性注意力與完整注意力——但兩者都建立在相同寬度上,因為小尺寸 Qwen 就是這樣。觀察微調模型繼承母模型的每一個維度,是現有最清楚的證據,證明微調模型會全盤繼承母模型的特性:優點與失效模式,而不只是形狀。MathForm-8B 會告訴你它來自哪個母模型,所以你可以去查閱相關資料。ZwZ2-9B 則沒有,而 Hub 標籤是唯一能追溯回去的線索。

A generated comparison scoreboard card titled 'ZwZ2-9B vs MathForm-8B — the scoreboard' with two columns of six matching rows: Parameters 9.41B vs 8B, Parent Qwen3.5-9B vs Qwen3-8B, Trunk 4,096 by 12,288 vs 4,096 by 12,288, Modalities text, image and video vs text only, Context 262,144 vs 40,960, and Evidence config file vs paper, dataset and results. The footer reads 'The right-hand column is vendor-reported from the published model card; the left-hand column is read from the published configuration.' The OrcaRouter logo is composited in the white strip below the artwork.

你真正需要的是哪一個?

這些不是替代品,而且重疊幾乎為零。MathForm-8B 只做一件事:把自然語言的數學陳述轉成可編譯的 Lean 4。它整套評估機制,包括需要一個運行中的 Lean 伺服器,都是圍繞這件事打造的。如果那正是你的問題,它是一個強而有力、有文件記錄、採用 Apache-2.0 的答案,並附有可重現的工具鏈,而 72.37 的一致性數字就是你要超越的目標——重點是一致性,不是語法,因為一個能編譯但意思不同的形式化,是個代價比編譯失敗更高的 bug。

ZwZ2-9B 是一個通用視覺語言模型。它從未在自動形式化上被評估過,也談不上有任何 Lean 分詞器方面的考量,而且是由一個早期研究為細粒度視覺感知的實驗室所發表。不要去找 ZwZ2-9B 在 Lean 基準測試上的分數;這種分數沒有理由存在。

真正的問題在於,你究竟想要的是專才還是通才。專才在它那一項工作上表現更好,但在那之外毫無用處。通才在任何特定事情上都更差,而當輸入形態多變時,它是唯一的選擇。這個比較之所以失衡,原因不在於兩者之間相隔的八週或那十億個參數——而在於其中一個發布時附上了專才所需的說明文件,另一個則只是作為別人工作的起點而發布。

如果你想在單一管線中同時擁有這兩種能力

有一種真實的模式,正是這兩種模式交會之處:通用模型閱讀一份含糊的文件,擷取出其中的數學主張,交給形式化工具,再由檢查器判定結果是否站得住腳。那是三次分別扮演不同角色的模型呼叫,而這正是路由層存在的意義——讓這種形態變得便宜——OrcaRouter 的路由 DSL 能將多個模型組合成單一次呼叫,因此扇出與後續追問只需一個請求,而不必維護一套協調服務。模型融合,也就是由一組模型共同作答,再由評審挑選最強的回應,是把同樣的概念套用在單一困難問題上,而非套用在一條流程上。

ZwZ2-9B 和 MathForm-8B 都不在我們的目錄中,我們也不會為此美化粉飾:MathForm-8B 採用 Apache-2.0 授權可下載,並可從你自己的 vLLM 或 SGLang 執行個體提供服務,而 ZwZ2-9B 則是一個完全沒有端點的儲存庫。目前從該管線的推理端可供路由使用的是 qwen/qwen3.8-27b — Qwen 當前世代的稠密旗艦模型,Apache-2.0,具備 262K token 上下文,以及 1M token 的託管上限,每百萬輸入 token 為 $0.33、每百萬輸出 token 為 $2.40,以供應商定價原價直通,未加收任何費用。

A screenshot of the OrcaRouter Fusion model page showing the model identifier orcarouter/fusion described as Text in, Text out with a 1M-token context, a tier of Quality with a panel of 3 models plus a judge, and copy stating that Fusion sends your hardest prompts to several frontier models at once and then a judge weighs where they agree and catches where they contradict; below, a diagram shows a prompt fanning out in parallel to three models and returning through a judge to a best answer, followed by three numbered steps titled Route by task, Fan out to a panel and Pick the best answer.

不對稱性的價值是什麼

MathForm-8B 是更值得撰寫的模型,因為有東西可以查核。ZwZ2-9B 是更有趣的產物,因為一個 9.4B 檢查點搭配調校過的對話模板與被剝除的預測頭,就是有人做了真正工作的證據——而且因為 inclusionAI 在 ZwZ 這個名稱上有過往實績,讓下一篇貼文值得關注。

對任何今天要做決定的人來說,這條規則並不光鮮。一篇已發表的論文、一份資料集、一個具名的基礎模型,以及一份明示的授權條款,都不是文書作業。它們是你能據以規劃的模型,與你必須逆向工程的模型之間的差別,而再有趣的架構也無法彌合那道落差。

這樣的結果也提醒我們,模型錯誤早已有紀錄:這一類模型背後的 AI 事件與代理失效,都收錄在OrcaRouter AI Incident Archive,其中每一筆紀錄都附有自己的來源、嚴重程度、可信度等級與爭議標記。