一張生成的雙卡片比較,標題為「UserRepGen-4B vs LFM2.5 2.6B Base — 原料 vs 成品」,上方大標寫著「一個是你拿來微調的。另一個是微調出來的成果。」左側卡片 LFM2.5 2.6B Base 列出:角色為供微調用的基礎檢查點、參數量 2.69B,採混合卷積與 GQA、上下文 131,072 個詞元、格式為原生 GGUF、ONNX 與 MLX、指令微調則刻意未做、下載次數約 6,282。右側卡片 UserRepGen-4B 列出:角色為完成的單一用途模型、參數為 4B 等級加上 rank-64 LoRA、上下文為 8,192 提示與 1,024 輸出、格式為單一 bf16 safetensors 檔案、指令微調為是,但僅針對單一任務、下載次數於撰寫時為零。頁尾寫著「Liquid 的數字依其模型卡;Microsoft 的數字為廠商回報。」OrcaRouter 標誌合成於右下角。
Guides & Insights

UserRepGen-4B 對比 LFM2.5 2.6B Base:原料與成品

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

要最快看出 microsoft/UserRepGen-4B 與 LFM2.5-2.6B-Base 的差異,就是數一數格式。Liquid AI 的 26.9 億參數檢查點以四種形式發布——原生 Transformers 權重、供 llama.cpp 使用的 GGUF、供跨平台執行環境使用的 ONNX,以及供 Apple Silicon 使用的 MLX——因為它的存在就是為了讓其他人調整與部署。Microsoft 的 UserRepGen-4B 則只以一種形式發布:單一未量化的 bfloat16 safetensors 檔案,大小為 9,078,620,536 位元組,其模型卡直言「目前沒有可用的最佳化或裝置專用格式」。一個是原材料。另一個是完成品。它們不是競爭對手;它們是同一項工作的兩個連續階段,而把它們並排放,是最能清楚看出開始微調與正式發布之間究竟改變了什麼的方法。

堆疊中的兩個位置

LFM2.5-2.6B-Base是 Liquid AI 的 LFM2.5 系列底下的預訓練檢查點——所有後訓練變體都是從它建構出來的。它刻意從未經過指令微調。它自己的模型卡建議,僅將其用於「需要大量微調的任務,例如語言特定(如日語)或領域特定(如醫療)的助理、以專有資料進行訓練,或實驗新穎的後訓練方法」。問它一個問題,它會接續你的文字,而不是回答你,因為回答從來就不是它訓練的一部分。

UserRepGen-4B就是下一步的樣子。微軟拿 Qwen3.5-4B,加上 rank-64 LoRA,在 2026 年 7 月到 8 月間透過後見之明蒸餾進行線上監督式微調來訓練它,並在 10 月 14 日公布結果,既沒有發布公告,也沒有發表論文。它只做一件事——讀取多輪對話,並為其中的使用者寫出一段兩欄位的 JSON 描述——除此之外什麼都不做。

所以,誠實的界定方式不是「哪一個比較好」。而是:其中一個是你拿來微調的東西,另一個則是某個實驗室透過微調另一個東西所產出的成果。

A generated two-column scoreboard headed "UserRepGen-4B vs LFM2.5 2.6B Base - the scoreboard", titled "What changes between starting a fine-tune and shipping one". The UserRepGen-4B column reads: stage shipped artifact; parameters 4B-class; context 8,192 prompt tokens; ships as one bf16 file; licence MIT plus Apache 2.0; languages English only. The LFM2.5 2.6B Base column reads: stage raw material; parameters 2.69B; context 131,072 tokens; ships as native, GGUF, ONNX and MLX; licence LFM Open License lfm1.0; languages 16 named. A footer reads "Both sets of figures are the vendors' own; neither independently reproduced." The OrcaRouter logo is composited bottom-right.

下載實際上會給你什麼

• 參數與佔用空間 — LFM2.5-2.6B-Base 採用混合架構,擁有 26.9 億個參數;UserRepGen-4B 是 4B 等級的模型,其發布的權重檔以 bfloat16 格式儲存約為 9.1 GB,且沒有更小的版本可供使用。

• 上下文 — 在 Liquid 檢查點上為 131,072 個 token,相較於 Microsoft 版本的 9,216 個 token 訓練序列(8,192 個提示、1,024 個補全),且明確不支援延伸使用。

• 格式 — GGUF、ONNX 與 MLX 加上原生權重,對比單一 safetensors 檔案。

• 授權條款 — 一邊是 LFM Open License(lfm1.0),另一邊是 MIT 加上承繼而來的 Apache 2.0。兩者都足夠寬鬆,可供在其上建構;但兩者並非同一份文件。

• 語言 — Liquid 卡上有十六種具名語言,微軟的僅提供英文。

• 採用情況 — LFM2.5-2.6B-Base 自 2026 年 8 月 1 日起已公開,目前約有 6,282 次下載和 51 個讚。於 10 月 14 日上傳的 UserRepGen-4B,在撰寫本文時這兩項數字均為零。

那些列裡只有一列跟品質有關。其餘的都是在講這東西能不能穿過你現有的那扇門。

A headless-browser capture of the Hugging Face model card for LiquidAI/LFM2.5-2.6B-Base, showing the Liquid AI organisation, 51 likes, Text Generation and Safetensors tags, a 16-language marker, and the family table listing LFM2.5-2.6B-Base as the pre-trained base model for fine-tuning beside LFM2.5-2.6B as post-trained for agentic workloads, followed by the feature list giving 2.69B total parameters, 30 layers made of 22 double-gated short convolution blocks plus 8 GQA, and a 131,072-token context length.

為截然不同房間打造的兩種架構

Liquid 將 LFM2.5 描述為「一個專為裝置端部署而設計的全新混合模型家族」,而基礎檢查點的架構也由此衍生。三十層,其中二十二層是雙閘控短卷積區塊,八層是分組查詢注意力,詞彙表有 128,000 個 token,訓練預算達 34 兆個 token。卷積區塊的記憶體成本低,延遲表現可預測;整體設計瞄準手機、筆電與邊緣裝置。

UserRepGen-4B 繼承了相反的假設。它的主幹是標準的 Qwen3.5 條件生成堆疊——32 層、2,560 隱藏大小、16 個注意力頭搭配 4 個鍵值頭、248,320 個 token 的詞彙表,以及一座從父檢查點原封不動帶過來的視覺塔,儘管該模型僅支援文字,且明確不支援圖像。Microsoft 表示,他們在 H100、A100、RTX A6000 和 B200 GPU 上以 vLLM 託管它。那是一份伺服器零件清單,不是邊緣裝置的。

團隊在兩者之間做選擇,其實就是在選擇要接受哪一項限制:裝置端記憶體,以及一個你得微調到位的執行環境;還是資料中心硬體,以及一個早已能勝任其單一任務的模型。

微調真正改變數字的地方

從定義上來說,這正是基礎模型無法回答的那部分比較。LFM2.5-2.6B-Base 不發布任何任務基準測試,因為基礎檢查點本身沒有任務——這個系列的品質數據,屬於其經後訓練的同系列模型。

UserRepGen-4B 發布了一個,而它是整個發布中最強的證據。在一項 700 段對話的保真度評估中,以 1 到 10 分制評判:

• Qwen3.5-4B base,未經調適的骨幹——best-of-1 為 3.41,best-of-3 為 4.42。

• GPT-5.5以現成提示執行相同工作——3.90 和 4.90。

• UserRepGen-4B — 4.95 與 6.02.

每一個數字都出自微軟自家,是在一個由 GPT-5.4 mini 同時扮演模擬器、助手與評判者的迴圈中產生的。沒有任何結果經過獨立重現。但結果的形態才是重點:在狹窄任務上,把一個 4B 基礎模型微調到超越前沿通用模型,是真實且可量測的成果,而這正是 LFM2.5-2.6B-Base 存在的目的——讓別人也能在自己的任務上做到這件事。微軟的模型卡也顯示,兩個顯而易見的強化學習替代方案——OPSD 的 4.46/5.60 與 GRPO 的 3.57/4.59——都敗給了單純的監督式微調,這是一記警告:別理所當然地以為更笨重的方法就會勝出。

其中一個有隱私權頁面,而且它不是基礎版本。

預訓練基礎模型沒有隱私章節,因為它不對任何人做出聲稱。UserRepGen-4B 則有,因為它確實會。其模型卡指出,在 147 位使用者中,一個負責從四段對話裡挑出哪一段出自同一人的選擇器,使用模型的行為描述時得分 51.02%,相較之下,直接使用原始對話為 44.22%,隨機則為 25%——摘要比原始素材更能辨識出該人。Microsoft 將其標示為可連結性風險,並指出這些表徵並非匿名化資料。

這種不對稱是結構性的,並非任一發布版本的缺陷。當模型的輸出是對一個人的描述時,倫理面向就改變了,而模型卡必須承載這一點。任何人若要把 LFM2.5-2.6B-Base 微調向類似目標,都應該預期要為自己撰寫同樣的章節。

基底選擇之後會決定什麼

A headless-browser capture of OrcaRouter's own model page for qwen/qwen3.5-27b, showing the Qwen3.5-27B heading, Vision, Tools, JSON and Reasoning badges, the description of it as an open-weight dense multimodal model with text, image and video input, prices of $0.09 and $0.69 per million tokens, a p50 TTFT of 4.45 seconds, and the OpenAI-compatible code sample whose base_url points at api.orcarouter.ai/v1.

借用一個基礎模型有個二階後果,卻鮮少在微調時被考慮到:它決定了你半年後能呼叫什麼。微軟是建立在 Qwen3.5-4B 之上,而那個系列是有商業供應的——Qwen3.5-Flash以每百萬輸入 token 0.10 美元、每百萬輸出 token 0.40 美元的價格提供超過百萬 token 的上下文,Qwen3.5-27B為 0.086 與 0.688 美元,Qwen3.5-35B-A3B為 0.057 與 0.459 美元,全都能透過一組 OrcaRouter 金鑰以供應商的定價取得,不另加任何費用,而且全都可以置於自動容錯移轉之後,讓只存在於你自己磁碟上的研究檢查點不會成為管線中的單點故障。我們不提供 UserRepGen-4B,也不提供 LFM2.5-2.6B-Base——兩者都是下載檔,而你從 Liquid 檢查點微調出來的小模型得由你自己託管。但這個迴路的助理端、或評判者、或備援路徑,可以是對你手上已有金鑰的一次 API 呼叫。那是你在開始時、在挑選要適配哪個基礎模型時所做的設計決定。

你真正想要哪一個?

如果你有一項任務卻沒有對應的模型,LFM2.5-2.6B-Base 就是正確的起點:它小到足以在一般硬體上微調,混合架構也足以在裝置上執行,而且一旦訓練完成,你會需要的每種格式都已提供。如果你有一條使用者模擬流程,需要一個能把已完成的對話轉成可攜式行為描述的元件,UserRepGen-4B 已經存在,而它只有單一檔案、單一格式這件事是一項限制,而不是重做這份工作的理由。值得關注的是,微軟是否會隨後發布其模型卡仍承諾的那篇論文。對 Liquid 而言,懸而未決的問題不同且更早存在:哪些團隊會採用這個基礎模型,以及他們會用它做出什麼。

基礎模型的存在就是為了被調適,而調適正是容易出錯之處:這一類模型已記錄的 AI 事件與代理失效,都收錄在 OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。