
ZwZ2-9B 悄然發布:當實驗室保持沉默,94 億個權重能告訴你什麼
- Orca新Orca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百萬 tokens · 72 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百萬 tokens · 732 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238智能
- OpenAIOpenAI: GPT-6 Sol2026-09-2248智能
- AnthropicAnthropic: Claude Opus 5.52026-09-2258智能
- xAIGrok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百萬 tokens · 35 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 每百萬 tokens · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040智能
- OpenAIOpenAI: GPT-6 Astra2026-09-0453智能77程式
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241智能76程式
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245智能76程式
- AnthropicAnthropic: Claude Fable 5.12026-09-0153智能82程式
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 每百萬 tokens · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 每百萬 tokens · 108 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642智能72程式
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 每百萬 tokens · 185 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845智能75程式
2026 年 10 月 16 日 03:42 UTC,一個 Hugging Face 儲存庫以inclusionAI/ZwZ2-9B之名出現。四分鐘後,它收到唯一一次提交——「Add ZwZ2-9B model weights」——之後便再無下文。這裡沒有 README、沒有授權條款欄位、沒有論文連結、沒有基準測試表,也沒有列入 inclusionAI 組織所維護的十個公開集合中的任何一個。權重本身為 9,409,813,744 個參數,以 bfloat16 表示,它們描述的是一個混合注意力視覺語言模型,其組態逐行而言,正是Qwen3.5-9B 的組態,只是移除了一個預測頭。這就是所有已確認的內容。本文其餘一切均標示為推論,因為一個沒有模型卡的儲存庫,並不足以讓任何人主張更多。
順帶一提,這是正常的,而且值得在各種但書堆積起來之前先說清楚。inclusionAI 是 Ling、Ring、LLaDA 與 Ming 系列背後的開放權重實驗室,而且它習慣在任何說明文字出現之前幾天或幾週就先把檢查點推出來。在 10 月 13 日——也就是這件事的三天前——它發布了 Ling-3.1-flash,附上一張簡短的模型卡,同樣沒有發布公告。一個沉默的儲存庫不是警訊。它是個理由,讓你該去讀檔案,而不是讀行銷宣傳。
儲存庫裡實際上有什麼?
八個檔案,而這份清單本身就已道盡一切。這裡有一個.gitattributes、一個chat_template.jinja、一個config.json、一個generation_config.json、單一個 18.8 GB 的model.safetensors、一個processor_config.json、一個tokenizer.json,以及一個tokenizer_config.json。這裡沒有README.md。這裡沒有LICENSE。這個儲存庫恰好帶有三個標籤——safetensors、qwen3_5與region:us——這表示 Hub 完全沒有為它設定任何 pipeline 標籤:它既未被歸類為 image-text-to-text、text-generation,也不屬於其他任何類別。在撰寫本文時,它顯示零次下載與兩個讚。
• 總參數量 — 在 760 個張量中共 9,409,813,744,bfloat16。
• 架構 — Qwen3_5ForConditionalGeneration,模型類型 qwen3_5。
• 文字堆疊 — 32 層、隱藏大小 4,096、16 個查詢頭對上 4 個 KV 頭、頭維度 256、中間大小 12,288、詞彙量 248,320。
• 注意力模式 — 三層線性注意力層接著一層全注意力層,如此重複:24 層線性層與 8 層全注意力層。
• 上下文 — 262,144 個位置,旋轉基底 10,000,000,交錯式 M-RoPE,區段為 [11, 11, 10]。
• 視覺塔 — 深度 27、隱藏大小 1,152、區塊大小 16、空間合併 2、時間區塊 2,投影至 4,096。
• 授權 — 未宣告。不是 apache-2.0,也不是自訂授權條款,什麼都沒有。
此設定是 Qwen3.5-9B 設定
比對兩個 config.json 檔案,幾乎每個架構數值都相符。隱藏大小、層數、注意力頭數、頭維度、中間大小、詞彙量、3:1 的線性對全注意力排程、M-RoPE 區段、旋轉基底、262,144 位置的上限,以及整個視覺塔直到其 2,304 個位置嵌入,都與 Qwen3.5-9B 完全相同。實質差異只有一行:mtp_num_hidden_layers 在 Qwen3.5-9B 是 1,在這裡則是 0,因此 ZwZ2-9B 不帶多詞元預測頭。差異的其餘部分屬於序列化——較新的 transformers 版本寫出舊檔案隱含未列的欄位,以及視覺設定的模型類型從 qwen3_5 更名為 qwen3_5_vision。
這告訴你的資訊雖然狹隘,卻很真實:這不是一個新架構。它是 Qwen3.5-9B 堆疊上的一個檢查點,由某人做過後訓練,且推測解碼頭已被移除。它沒有告訴你的是,那次的後訓練究竟是什麼。參數變了;形狀沒變。


模型唯一會真正談到自己的一個地方
聊天模板是這裡唯一帶有觀點的檔案,而且它在三個方面與 Qwen3.5-9B 不同,讀者大約一分鐘就能查核。
第一個是預設的系統提示。當請求送達時若沒有系統訊息,ZwZ2-9B 的範本會注入一個:「使用者與助理之間的對話。使用者提出問題,而助理負責解決……答案會包在 <answer> </answer> 標籤內。」Qwen3.5-9B 的範本沒有這類分支——它單純不輸出任何內容。一個內建且指明輸出格式的系統提示,是特定訓練執行的標誌,而不是基礎模型的標誌。
The second is the thinking default, and it is inverted. In Qwen3.5-9B the template emits an empty <think></think> block only when the caller explicitly passes enable_thinking: false, which means reasoning is on unless you turn it off. In ZwZ2-9B the condition is not defined or false — the empty block appears by default and the open <think> tag only when a caller explicitly asks for thinking. Same tags, opposite default. Qwen3.8-27B, for the record, kept the Qwen3.5 behaviour, so this is not simply inherited from a newer generation.
第三項是多輪推理的記錄管理:範本會理解 preserve_thinking 旗標,而且它知道如何從已經包含 <think> 區塊的助理回合中移除該區塊。Qwen3.5-9B 範本中兩者皆不存在。附帶一提,分詞器仍保留音訊特殊詞元—— <|audio_start|>、<|audio_end|>、<|audio_pad|>——但設定中任何地方都沒有音訊塔,因此請將其視為共用的分詞器詞彙,而非一項能力。
名稱所暗示的,以及它並未暗示的
「ZwZ2」讀起來像是某個東西的第二代,而且確實有個第一代可以對照。ZwZ-2B於 2026 年 3 月 4 日發布,是 Qwen3-VL-2B-Instruct 的微調版本,以 Region-to-Image Distillation 加上強化學習訓練而成,並與論文Zooming without Zooming(arXiv 2602.11858)及 ZoomBench 評估集一同發表。它採用 Apache-2.0 授權,有完整的模型卡,七個月內累積了 159 次下載。
不過,這條血統線索比名稱所暗示的還要薄弱。ZwZ-2B 是建立在 qwen3_vl 架構之上。ZwZ2-9B 則是建立在 qwen3_5 之上。inclusionAI 所套用的唯一標籤是 qwen3_5,而該模型並不在 ZwZ 系列中,也不在任何其他系列裡。區域到影像的配方是否被沿用下來,正是模型卡會回答、而這個儲存庫並未回答的那類問題。
有個值得指出的陷阱,因為搜尋引擎會誘導人們掉進去:存在一個較舊、無關的 ZwZ_32B GGUF 轉換系列,日期為 2025 年 3 月,來自第三方。它只共享三個字母,其他毫無相同之處。不要把它當成較早的 ZwZ2-9B。
如何處理未記載的檢查點
實務上的立場,就跟面對任何沒有附上模型卡的權重時一樣。先拉取 config 與 safetensors 標頭——這很便宜,而且可以檢查。確認參數量與張量名稱和 config 所承諾的內容相符。接著,用支援該架構的框架來部署它,並執行你已經在自己流量上跑的評估,而不是借用不存在的數字。
只要用途不只是一個週末,授權條款就是真正要緊的部分。沒有授權欄位的檢查點,並不等同於開放授權的檢查點;在沒有明確聲明的情況下,預設就是發布者保留所有權利,而這應該是在它接近正式上線之前就該談清楚的事,而不是之後。另請注意,你將會自行執行它——Hub 回報此模型未由任何供應商提供服務,而且供應商尚未公布任何端點。
這正是自動容錯移轉存在的目的。如果你想衡量一個未經驗證的檢查點相對於現行模型的表現,又不把正式生產路徑押在它身上,就把候選模型放在與你已信任模型相同的介面之後,並在新模型失常時讓流量切回——只需一個 API 金鑰和一個 OpenAI 相容端點,而不是一套還得拆解的第二種整合。OrcaRouter 就是以這種方式路由 200 多個模型,以 0% 加成直接沿用供應商定價,且不託管 ZwZ2-9B——我們不會假裝目錄中有它的項目。我們今天能提供的是它所依據的系列,以及它所取代的系列:Qwen3.5 系列可在此路由,包括 qwen/qwen3.5-35b-a3b 和 qwen/qwen3.5-flash,而 qwen/qwen3-vl-8b-instruct 以一個有文件記載的託管模型填補 8B 視覺位置,價格為每百萬輸入 token $0.18、每百萬輸出 token $0.70。

什麼會讓這個變成正式發行版?
三件事,而其中任何一件都足以合理改寫這篇文章。出現在儲存庫中的授權欄位,會把它從一件獵奇之物變成公司可用的東西。一份附有評估數字的模型卡,會把它從架構轉化為一項宣稱。或者一篇論文——最可能的形態,是那項讓初代 ZwZ 變得有趣的區域到影像研究,被套用到規模大三倍的視覺塔上。
在其中一項成真之前,請把 ZwZ2-9B 當成檔案清單所描述的樣子:一個擁有 94 億參數、帶有自訂聊天模板的 Qwen3.5-9B 衍生模型,由一個尚未告訴任何人原因的研究實驗室發布。權重是真的。故事還沒寫出來,而誠實的立場是,inclusionAI 以外的任何人都寫不出它。
這些都不是假設:像這次發布這類版本背後那些有紀錄的 AI 失效與代理事件,全都收錄在OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。
