ZwZ2-27B 對比 ZwZ2-9B 的標題卡,以兩張尺寸不同的卡片呈現這兩個檢查點之間三倍的參數差異。
Guides & Insights

ZwZ2-27B 對比 ZwZ2-9B:三倍參數實際上能換來什麼

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

在 inclusionAI 的 25 項測試表中,正好有一項基準測試由較小模型勝出。Chartography——從圖表上讀取數值——讓 ZwZ2-9B 得到 13.00 分,而 ZwZ2-27B 得到 12.00 分。兩者都偏低。兩者都不好。但有趣的是方向,因為這兩個模型是同一項實驗在兩種規模下的結果:同一套訓練配方、同一份資料集、同一種論文方法,分別套用到 Qwen3.5-9B 與 Qwen3.6-27B 本體上。如果配方完全相同,而較大模型的參數量是三倍,那麼這種規模實際上反映在哪些地方,其算術會比整體分數的標題數字所暗示的更令人意外。

值得在開頭一提的是,這兩個模型都以同樣低調的方式登場。ZwZ2-9B 的儲存庫建立於 2026 年 10 月 16 日 03:42 UTC;ZwZ2-27B 的儲存庫則建立於同日上午 05:42。兩者都只帶權重、沒有文件,持續了十天,且都在 10 月 26 日取得了附有完整基準測試表的模型卡。兩者都未宣告授權條款。兩者都沒有已發表的論文——模型卡中仍包含佔位符 PAPER_URL。

一個配方,兩副身體

訓練方法在兩者之間不只是相似,而是同一套方法套用到兩個主幹上,這使它們的比較格外乾淨。EvidenceConnect 會將 SA-1B 影像中三到七個相關區域分組,利用特權放大裁切圖生成問題,並透過跨模型一致性與「移除一個區域」測試來篩選這些問題,將通過篩選者轉換成四選項任務,並以 GRPO 訓練——沒有監督式微調階段。兩個模型都使用約 20,000 個訓練範例。

這些屍體以尋常的方式有所不同:

• 規模 — 9B 參數、32 層、隱藏大小 4,096,對比 27B、64 層、隱藏大小 5,120。

• 注意力 —— 9B 有 16 個查詢頭和 4 個 KV 頭,維度為 256;相較之下,27B 有 24 個查詢頭和 4 個 KV 頭,維度相同。

• 前饋 — 中間大小為 12,288,對比 17,408。

• 視覺 — 兩者皆為相同的塔:27 層、隱藏大小為 1,152,分別投影至 4,096 與 5,120。

• 上下文與詞彙——在 262,144 個位置與 248,320 個詞元上完全一致。

• 多詞元預測 — 已從兩者中移除,並將 mtp_num_hidden_layers 設為 0。

• 基礎模型 — 小型的那個用 Qwen3.5-9B,大型的那個用 Qwen3.6-27B。這正是讓比較變得複雜的細節,而下一節將說明原因。

A two-column scoreboard for ZwZ2-27B and ZwZ2-9B: 27B versus 9B parameters, 64 versus 32 layers, 5,120 versus 4,096 hidden size, about 54 GB versus about 19 GB in bf16, an overall score of 60.51 versus 56.59, and UI-Vision at 66.66 versus 45.48.

3.92 分的整體差距究竟從何而來

這是我在做減法之前沒有預料到的發現。ZwZ2-27B 的整體平均值是 60.51,ZwZ2-9B 是 56.59——相差 3.92 分。現在看看每個配方各自在其基礎模型上增加了多少,而這些數據是由同一實驗室、在同一測試框架下、發表於同一批表格中的:

• ZwZ2-27B — 基礎 Qwen3.6-27B 為 55.52,微調後為 60.51。增益 4.99。

• ZwZ2-9B — 基礎版 Qwen3.5-9B 為 51.63,調校後為 56.59。提升幅度 4.96。

這套配方在兩種規模下帶來的改善幾乎完全相同。參數量增加為三倍,只多換得 0.03 分的額外訓練效益。而且兩個基礎模型在尚未被調整之前,就已經相差 3.89 分。

因此,在最終模型之間 3.92 分的差距中,有 3.89 分是承襲自它們起始的檢查點。專門化並沒有造成這個差距。它幾乎原封不動地保留了這個差距。

這是單一實驗室、單一測試框架的比較,所以這裡的相減在某種意義上是站得住腳的,而跨廠商比較從來做不到這一點——那四個數字每一個都出自同一張表,由同一套評估程式碼產生,跑在同一個基準測試集上。四捨五入的粒度夠粗,因此不該把 0.03 讀成精確度;誠實的解讀是「無法區分」。

在實務上,這意味著在這兩個模型之間做選擇,幾乎就等於在 Qwen3.5-9B 與 Qwen3.6-27B 之間做選擇,再加上一項固定的感知調整。如果你的工作負載本來就不會選用較大的基礎模型,那麼 ZwZ2 的訓練也不會改變這個決定。

The inclusionAI/ZwZ2-9B model card on Hugging Face, showing its Qwen3.5-9B base model, the claim of 51.63 to 56.59 on 25 benchmarks, a +4.96 gain, and 147 downloads last month.

逐個網域來看:大小只會出現在一個地方

平均值掩蓋了結構,而這裡的結構是失衡的。比較兩個調校後的模型在六個領域中的表現:

• 細粒度感知 — 27B 為 67.57,9B 為 66.02。差距為 1.55,是六項中最小的。

• 空間感知 — 55.98 對 52.33。差距為 3.65。

• 一般視覺推理 — 53.71 對 49.83。差距為 3.88。

• 具身空間推理 — 55.71 對 51.11。差距為 4.60。

• 長上下文理解 — 68.77 對 64.08。差距 4.69。

• 多模態代理 — 51.81 對 42.43。差距為 9.38。

模式相當一致:當任務從「觀看圖像」轉為「對圖像採取行動」時,較大模型的優勢大約會翻倍。在八項細粒度感知基準測試中——也就是該方法明確針對的那些測試——兩個模型的差距在 1.5 分以內,而 Chartography 的表現則相反。

代理式領域是 27B 展現其記憶體佔用價值之處,而這道差距大多來自單一測試。UI-Vision 中,ZwZ2-27B 得分 66.66,ZwZ2-9B 得分 45.48,相差 21.18 個百分點,是表格中最大的差距。ScreenSpot-Pro 與 AgentVista 的貢獻較小,分別為 70.59 對 66.98,以及 18.18 對 14.83。

UI-Vision 是一個介面定位基準測試,而結果傳達的是具體而非籠統的訊息:如果你的工作負載是閱讀與操作軟體介面,那麼 27B 正在做的事,是 9B 大致上做不到的。如果你的工作負載是比較照片或文件頁面上標記的區域,那麼 9B 以三分之一的權重,就做到了幾乎相同的事。

A bar chart of the average score gap between ZwZ2-27B and ZwZ2-9B by domain, rising from +1.55 on fine-grained perception and +3.65 on spatial perception to +9.38 on multimodal agents, with a note that UI-Vision alone differs by 21.18 points.

小型模型唯一勝出的那項測試,以及它應該佔多大分量

Chartography 值得細究,正因為它是個例外,恰好證明這種專門化有多狹窄。兩者的分數都很糟——滿分 100 中分別只有 13.00 和 12.00,對比 Qwen3.6-27B 基線的 8.00 與 Qwen3.5-9B 基線的 7.00。訓練讓兩個模型在一項它們仍無法可靠完成的任務上提升了大約五到六分,而 9B 的提升剛好高出一分。

正確的結論並不是 9B 在圖表方面更強。而是:在一個遠超出訓練分布範圍的任務上,兩個模型之間的差異只是雜訊,合理的做法是把圖表判讀這件事完全交由其他地方處理。一個在圖表基準測試上只拿到 12 或 13 分的模型,並沒有可供選擇的圖表能力。

同樣的謹慎也適用於其他偏低的絕對分數。ZwZ2-9B 在多模態代理上平均為 42.43,在 AgentVista 上為 18.18;ZwZ2-27B 平均為 51.81 與 18.18。就絕對值而言,兩者在代理式工作上都很弱,而較大模型沒那麼弱的事實並不代表它很強。

記憶體佔用實際上長什麼樣子

參數差異是你每天都要付出代價的部分。ZwZ2-9B 是單一 94.1 億參數的 safetensors 檔案,bf16 格式約 19 GB。ZwZ2-27B 則拆分為兩個分片,約 54 GB。再加上視覺塔的激活值與 262,144 個位置的 KV 預算,實務上的拆分會是:

• ZwZ2-9B — 在單張 24 GB 消費級加速卡上以 bf16 執行尚稱舒適,雖然吃緊但可行;目前沒有量化版本發布,因此除非自行量化,否則就得使用完整精度。

• ZwZ2-27B — 一張仍有餘裕的 80 GB 顯示卡,或兩張 40 GB 顯示卡採緊湊的張量平行分割。低於此配置都無法以 bf16 執行它。

• 服務支援——兩個儲存庫都沒有提供 vLLM 或 SGLang 方案。兩者都在快速入門中固定使用 transformers==5.13.1,且都僅記載非思考模式,答案以 <answer> 標籤包住。兩者皆未宣告授權,而對正式部署而言,這比任何一個記憶體數字都是更大的障礙。

最後一點值得單獨用一句話說明,因為兩邊情況相同:根本沒有授權條款可讀。這些卡片指向「隨釋出權重一併附上的授權條款」,但權重本身什麼都沒附。無論你選哪個尺寸,商業問題仍未解答。

同時使用兩者,而非二選一

領域表格所暗示的,與其說是哪個模型勝出,不如說是一種雙層模式。細粒度感知在不同規模之間幾乎沒有變化,因此 9B 在那裡是合理的首輪選擇;代理式介面工作則在領域平均上變動超過九個百分點,在 UI-Vision 上更達二十一個百分點,所以這類流量應交給 27B。若路由器依任務類型分流,就會把大部分 token 花在便宜模型上,並把昂貴模型保留給螢幕。

ZwZ2 的兩種尺寸都不在我們的目錄中,所以這種模式現今意味著要在你自己的硬體上執行兩個檢查點,並自行撰寫調度邏輯。OrcaRouter 適合的位置是同一套技術堆疊中的通用型那一側:Qwen3.8-27B 與 Qwen3.5-27B 都可在此透過同一把金鑰路由,依供應商牌價計費、不加價,因此不需要進行區域比較的工作負載可以交給具備自動容錯移轉的託管模型,而特殊化的流量則留在本地。這比「把 ZwZ2 透過我們路由」是更小的主張,而後者是我們無法提供的——但這正是該架構中目前實際可用的部分。

誠實的總結並不光鮮。兩個檢查點、同一套配方、一樣的沉默、一樣缺少授權,還有一個效能差距:這個差距幾乎完全來自基底模型原本就存在的落差,再加上高階端針對介面工作的一項真正專精。如果你需要 27B 的 UI 數據,你就需要 27B 和那張 80 GB 的顯示卡。如果你不需要,9B 在整個專案成立就是為了改善的那項任務上,能讓你差距在 1.5 分以內,而且它能裝在你大概已經擁有的硬體上。