UserRepGen-4B 對決 Qwen 3.8：七個月大的 4B 微調模型對上 Alibaba 當前旗艦

先從一個讓這個組合顯得奇怪的事實說起。microsoft/UserRepGen-4B，於 2026 年 10 月 14 日上傳，沒有任何發布公告，是基於Qwen3.5-4B的微調模型——也就是 2026 年 2 月的那個檢查點，比這裡拿來與它比較的模型整整落後一個世代。Qwen 3.8 是阿里巴巴 2026 年 8 月的世代，其已上線服務的成員包括Qwen3.8-Max，這個旗艦模型在百萬 token 的上下文下，每百萬輸入 token 收費 2.00 美元、每百萬輸出 token 收費 6.00 美元，Qwen3.8-27B在 262,144 個位置下為 0.33 美元與 2.40 美元，以及Qwen3.8-Flash為 0.15 美元與 0.47 美元。微軟審視了那個家族，卻往回退了一個世代，選用 4B 的基礎模型。接著它公布了一張表，顯示產出的模型在它唯一擅長的那件事上擊敗了 GPT-5.5。這個組合就是整篇文章的重點：針對性的微調能帶給你哪些更新的旗艦模型無法提供的東西，以及為了得到它，你得付出什麼代價。

首先，「Qwen 3.8」是什麼的名稱

在任何比較之前，值得先釐清，因為這個系列名稱涵蓋了好幾種非常不同的產物，而且價格差距超過十三倍。真正對決策有影響的是那三個已提供的成員：

• Qwen3.8-Max — 旗艦級模型，原生支援文字、圖像與影片的多模態，具備 100 萬 token 上下文，並以三種傳輸格式提供服務，其中包括與 Anthropic 相容的格式。這是頂級方案，適合在困難問題上正確性比成本更重要的情況。

• Qwen3.8-27B——以 Apache 2.0 授權的開放權重稠密模型，262,144 個 token 上下文，支援文字、圖像與影片輸入。阿里巴巴自家的模型卡報告在 LiveCodeBench v6 上達 90.3、GPQA Diamond 上達 89.2、OSWorld-Verified 上達 84.3，以及 QwenSWEBench 上達 79.0——這些是供應商報告的數字，未經獨立重現。

• Qwen3.8-Flash — 高吞吐路線，100 萬 token 上下文，專為要重複執行百萬次的短任務而定價。型錄上還有一個標註日期的 Qwen3.8-Max (0902) 快照，費率相同；當你需要可重現的行為，而非持續變動的最新版本時，就鎖定這個快照。

這些都不是新聞，而本頁也不是在報導 Qwen 的發布。這一代已經問世五個月了。它會出現在這裡，是因為它是比較中更新、更大、基準測試表現更好的一方，也因為那個有趣的說法只有在對照如此強大的東西時才說得通。

精確陳述的主張

Microsoft 的模型卡報告了一項針對超過 700 場留出對話的保真度評估，由 LLM 評審以 1 到 10 分評分，其中每個表徵產生器都接入同一個模擬迴圈：

• Qwen3.5-4B，未經改動的骨幹——3.41 單次最佳、4.42 三次最佳。

• GPT-5.5，以現成提示詞要求其描述使用者——3.90 與 4.90。

• UserRepGen-4B，在透過後見蒸餾進行線上監督式微調後——4.95 與 6.02。

每個數字都是微軟自家的，並由 GPT-5.4 mini 判定，而且其中沒有一項在實驗室外被重現過。請把它視為方向性主張，而不是已成定論的結果。但方向毫無疑問，而且重點不在參數量：訓練方法讓主幹模型在 best-of-1 上提升了 1.54 分，並在過程中超越了一個前沿通用模型。應有的解讀不是「小模型勝過大模型」——而是：一個來自二月的 4B 基礎模型，針對單一狹窄行為大力微調後，能擊敗一個大得多的模型，而它只是被要求表現出該行為。

Qwen3.8-Max 不在那張表中。它理應會比 GPT-5.5 表現得更好，因為它是更強大的通用模型。但它仍然只是在猜測該行為，因為它的訓練中沒有任何部分針對此進行最佳化。

為什麼選擇已經推出七個月的基礎版本是正確的決定

這道世代落差看起來像是個錯誤，直到你釐清微調實際上需要它的主幹模型提供什麼。它需要的模型要大致流暢、執行成本低廉，而且足夠穩定，讓 rank-64 的 LoRA 能夠調整它而不至於摧毀它。它不需要前沿推理，因為這項任務並非推理——而是要描述一段交到它手上的對話。

卡片中的兩個細節證實了這個解讀。第一個是輸出上限：表徵為 1,024 個 token，而對話則為 8,192 個。第二個是訓練預算——2026 年 7 月至 8 月，共兩個月——以及兩種較繁重的方法雙雙落敗的事實。OPSD 得分為 4.46/5.60，GRPO 為 3.57/4.59，兩者都低於單純的監督式微調的 4.64/5.68。當一個便宜的方法擊敗兩個昂貴的方法時，瓶頸從來就不是主幹模型的能力。改用 2026 年的旗艦基礎模型，只會換來一個每次推論成本更高、卻在同一上限下做同樣工作的模型。

那樣的選擇是有代價的，而這張卡對此坦誠以對，而非加以掩飾。由於視覺塔是隨著父檢查點一同而來，模型會透過 AutoModelForImageTextToText 載入，並帶有它從未使用的影像與視訊程式碼路徑——此版本明確不支援影像與視訊輸入。你在獲得其流暢度的同時，也一併繼承了這套架構的包袱。

成本算術，並不如人們預期的那樣發展

反射性的想法是本地推論比較便宜。在這個模型所設計的規模下，通常並非如此，而誠實地把數字算一遍會改變決策。以一批 700 段對話為例——規模與 Microsoft 自家的評估相同——每次呼叫大約 2,000 個提示 token 與 400 個輸出 token。

• 透過 Qwen3.8-27B，以每百萬 $0.33 和 $2.40 計算：整批的 token 總花費約為 $1.13。

• 透過 Qwen3.8-Max 以 $2.00 和 $6.00 計算：約 $4.48。

相較之下，UserRepGen-4B 需要下載 9.1 GB、一張記憶體足以以 bfloat16 容納它的 GPU，以及接上 Python 類別的工程。微軟報告指出，它已在 H100、A100、RTX A6000 和 B200 硬體上以 vLLM 提供服務，並指出 CPU 推論需要 float32，且「記憶體需求遠高於約 9.1 GB 的權重檔案」。如果唯一的考量是每 token 的美元成本，那麼在這個量級下，使用 API 存取更強大的模型會勝出，而且差距不小。

這意味著，自己運行 UserRepGen-4B 的真正理由，是那些不會出現在價目表上的理由：你餵給它的那些對話。它自己的說明卡上寫著，只處理你有權處理的對話，先盡可能減少可識別身分的資訊，而且表徵並非匿名化資料——該模型的行為描述能在四名候選人中辨識出某個人的比率為 51.02%，高於它所摘要的原始對話的 44.22%。一個能把對話轉變成可攜、人類可讀人物側寫的元件，無論呼叫 API 要花多少錢，你都可能會想把它留在自己的網路內部。

在這樣的管線中，路由層適合放在哪個位置

這更常是雙模型形態，而不是單模型形態：表徵生成器跑在你自己的硬體上，而一個通用模型負責助理端、評判，或圍繞它的評估迴圈。後半部則是透過 API 運作的部分。

所有三個已提供服務的 Qwen 3.8 成員，都在 OrcaRouter 上以供應商的定價提供，未加收任何費用——Max 為 $2.00 與 $6.00，27B 為 $0.33 與 $2.40，Flash 為 $0.15 與 $0.47——只需一組金鑰，並具備跨供應商的自動容錯移轉，因此評估迴圈中的評審呼叫不會因單一上游失效而中斷。如果你正讓數百段對話批次流經多個模擬器與評審，這種容錯移轉比每 token 費率更重要，因為一趟在第 400 段對話死掉的執行，會浪費掉前面那 399 段。路由 DSL 讓你能把助理與評審組合成單一呼叫，而不必串接兩次。我們不提供的，是 UserRepGen-4B：我們的目錄中沒有它的條目，而此處任何內容都不應被解讀為 Microsoft 檢查點的可用性聲明。

這個決定，毫不含糊

如果你想要一個能推理、寫程式、讀取圖像並容納一百萬個 token 的通用模型，本文沒有任何內容反對 Qwen3.8-Max——UserRepGen-4B 這些全都做不到，而與旗艦模型的比較也不是它主動加入的。如果你想要一個以真實對話行為為條件的使用者模擬器，Qwen 3.8 系列成員也都沒有為此受訓，選擇就在於一個具有可量測優勢的小型本地微調模型，與一個毫無此優勢的大型 API 模型之間。

這個懸而未決的問題，與籠罩整個發布案的問題是同一個：沒有論文。模型卡上寫著引用資訊「待確認」，而一條關於儲存庫為私有的說明，在儲存庫公開之後仍留在使用說明區段裡，且保真度表中的每個數字，全都可追溯至某個實驗室自家的評審模型。Microsoft 打造了一個模型，能勝過它測試過的最強基準。至於它能否勝過你的基準，只有你自己執行的評估才能回答。

一個七個月前完成的微調模型與現行旗艦模型相較，也是適合追問過去出過哪些失敗的切入點：這類模型相關且有紀錄的 AI 事故與代理失效，都收錄在OrcaRouter AI Incident Archive，其中每筆條目都附有各自的來源、嚴重程度、可信度等級與爭議標記。