一張主視覺標題卡,寫著「LFM2.5-24B-A2B 對 Gemma 4 26B-A4B」,副標題為「兩個稀疏模型,兩種不同的預算」,並有兩個標示面板,分別寫著「LFM2.5-24B-A2B:總計 24.0B,啟用 2.45B,純文字」以及「Gemma 4 26B A4B:總計 25.2B,啟用 3.8B,文字 + 影像」,OrcaRouter 標誌合成於右下角。
Guides & Insights

LFM2.5-24B-A2B 對比 Gemma 4 26B-A4B:兩種稀疏模型,兩種關於算力去向的不同理論

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

LFM2.5-24B-A2B與Gemma 4 26B-A4B看起來就像是同一個構想出現了兩次。Liquid AI 的檢查點於 2026 年 10 月 13 日發布,總參數量 240 億,每個 token 讀取 24.5 億。Google DeepMind 的 Gemma 4 26B-A4B 總參數量 252 億,每個 token 啟用 38 億,於 2026 年 3 月 11 日發布於 Hugging Face。兩者都是混合專家模型,兩者都大致上是把一個約 250 億參數的檢查點,搭配上二十億到四十億參數的運算預算,而且兩家廠商在解釋這項取捨時都訴諸同一句話——你為大模型付出記憶體,為小模型付出延遲。這種近乎一模一樣的算術,正是為什麼這個比較值得好好做,因為這兩個模型接著把這筆預算花在完全不同的地方:Gemma 4 26B-A4B 把它花在視覺、256K 上下文和廣泛的知識庫上;LFM2.5-24B-A2B 則把它花在推理軌跡、工具呼叫框架和代理式強化學習上。同樣的形狀,相反的優先順序。

還有一層不對稱疊在上頭:LFM2.5-24B-A2B 的基準測試表把 Gemma-4-26B-A4B-it 當作它的三個基準之一,所以這次我們難得不是把兩份發布表格排在一起然後用猜的——Liquid 兩者都跑了,在同一個 vLLM 環境中,並公布了那些列。

兩者都缺了同一樣東西,而那正是所有人都假定存在的東西。

先從這兩個模型最可能產生的誤解談起,因為它們的誤解是同一個。稀疏混合專家並不會縮小你的記憶體需求。檢查點裡的每一個參數都必須常駐;2.45B 或 3.8B 活躍參數換來的是每 token 的吞吐量,而不是更小的佔用空間。看到「2.45B 活躍」就拿著 4 GB 機器去跑的讀者,下場會很慘。

在我們自家的目錄中,Gemma 4 26B A4B 檢查點列出的上下文長度為 262,144 個 token,而 LFM2.5-24B-A2B 的說明卡給出 131,072。在磁碟上,兩者的差距比參數數量所顯示的更大:LFM2.5-24B-A2B 發布了 14.5 GB 的 Q4_K_M GGUF 與 13.6 GB 的 QAT QAD-Q4_0,BF16 格式則為 48 GB;Gemma 4 26B A4B 以 bfloat16 safetensors 形式發布,包含一個 49.9 GB 分片與一個 1.7 GB 分片,另有一個量化感知 4 位元 GGUF,將精簡的權重檔案與獨立的多模態投影檔案配對。取整數來說:約 14 GB 對上約 50 GB 未壓縮,而這來自兩個總參數數量相差十億的檢查點。這個差異來自詞彙表、專家佈局與多模態堆疊,而非參數標題數字,而這是整篇文章中最實用的一句話。

規格對比,每個維度一行

• 總計 / 啟用參數——LFM2.5-24B-A2B 為 24.0B / 2.45B,在 40 層中採用 top-4 路由、共 64 個專家。Gemma 4 26B-A4B 為 25.2B / 3.8B,在 30 層中從 128 個專家裡啟用 8 個,另加一個共享專家。

A capture of the Hugging Face model page for google/gemma-4-26B-A4B-it, showing the image-text-to-text pipeline tag, the Transformers and Safetensors formats, the gemma4 and conversational tags, the Apache 2.0 licence, and the card text stating that Gemma 4 models are multimodal, handling text and image input with audio supported on the E2B, E4B and 12B models, that the family spans a context window of up to 256K tokens across five sizes, and the architecture list covering reasoning, extended multimodalities, dense and MoE variants, and on-device optimisation.

• 上下文 — 131,072 個 token,相較於 262,144 個;Gemma 4 26B A4B 採用 1,024 個 token 的滑動視窗,以及交錯局部與全域層的混合注意力機制,並將最後一層保持為全域。

• 模態 — LFM2.5-24B-A2B 是文字輸入、文字輸出。Gemma 4 26B A4B 接受文字與圖像,並配備約 5.5 億參數的視覺編碼器;音訊則僅限於較小的 Gemma 4 尺寸。

• 推理 — LFM2.5-24B-A2B 一律會在 <think> 區塊內輸出明確的思維鏈。Gemma 4 26B A4B 則是經指令微調的通用模型,沒有強制性的推理軌跡。

• 詞彙 — 128,000 個 token,透過原地分詞器擴充而較前一代倍增,相對地,Gemma 4 全部五種尺寸則共用 262K 的家族詞彙表。

• 授權 — lfm1.0,年營收未達 1,000 萬美元前可免費用於商業用途,超過此門檻則需取得商業授權。Gemma 4 26B A4B 採用 Apache 2.0,標準授權條文位於 ai.google.dev/gemma/apache_2,而 Google 的禁止使用政策則與之並列,作為可接受使用文件,而非授權限制。

• 已發布格式 — 適用於 Liquid 模型的 GGUF(Q4_K_M 至 BF16)、FP8、ONNX,以及 4/5/6/8 位元 MLX;適用於 Gemma 尺寸的 bfloat16 safetensors、預訓練檢查點、QAT 4 位元版本與可搭配 llama.cpp 使用的 GGUF,另有多詞元預測草稿模型。

Liquid 兩者都跑了,而結果並非大獲全勝

LFM2.5-24B-A2B 的發布貼文把Gemma-4-26B-A4B-it放進其十六項基準測試表格的基準欄中,與 Qwen3.6-35B-A3B 及 Nemotron-3.5-Lightning 並列,四欄全都在 vLLM 中依各基準測試的生成設定執行。以下所有內容雙方都是廠商自行報告的數字——Liquid 的數據,出自 Liquid 自己彙整的表格。這不是獨立評測,但至少是同一套測試框架,這已經比大多數模型對比頁面所能得到的更多了。

代理類的列讀起來像是一場潰敗:AutomationBench 27.69 對上 5.46,ToolSandbox 80.71 對上 72.09,LiveClaw 48.09 對上 41.25,τ³-Bench Banking 8.04 對上 4.54,BFCLv4 65.01 對上 57.09。指令遵循也是同樣的情況——IFEval 96.75 對上 92.00,IFBench 74.69 對上 47.44,Multi-IF 84.38 對上 82.19。

接著是表格的另一半,而 Liquid 還是照樣公布了:PinchBench 83.18 對 77.12 的結果則相反,另外三列也是如此,而這三列的重要性高於任何工具呼叫上的勝利。 GPQA Diamond — 74.42 對 74.90,在研究所程度科學的頂端幾乎旗鼓相當。 SWE-Bench Verified via OpenCode — 51.00 對 25.80,二比一的差距由 Liquid 模型佔優,這是兩張表中任何一張裡最令人訝異的單一數字。 SciCode — 32.71 對 35.42,Gemma 規模領先。而 AA-Omniscience — −24.90 對 −59.39,其中兩個模型都表現很差,而 Gemma 規模的表現還差了一倍以上。

對這件事有兩種解讀,而誠實的那一種是第二種。第一種是:一個 2.45B 活躍參數的 agent 模型在 agent 任務上勝過 3.8B 活躍參數的通用型模型,而這正是它被打造出來要做的事。第二種是:Gemma 4 26B A4B 這一欄在各方面都顯得異常疲弱——25.2B 總參數、3.8B 活躍參數,卻在指令遵循、工具使用與知識上落居於一個 2.45B 活躍參數的模型之下,這不是 Google 自家的家族表會預測的結果;這也提醒我們,如果模型是以不同的生成設定與提示方式驅動,共用同一套測試框架並不會讓基準測試具備可比性。請把這幾列的趨勢方向視為有參考價值,而把幅度大小視為不具參考價值。

表格裡完全沒提到的,是 Gemma 4 26B A4B 的多模態那一半。這裡不可能進行視覺基準測試,因為 LFM2.5-24B-A2B 看不見。如果你的工作負載有任何一部分涉及使用者傳來的圖片,這場比較還沒開始就已經分出勝負,而贏家不是較新的那個模型。

價格,以及實際持有每一項的成本

LFM2.5-24B-A2B 採用按詞元計價:在 Liquid 自家的 Console 上,每百萬個輸入詞元為 $0.10(快取為 $0.05),每百萬個輸出詞元為 $1.00,並提供 $2 的起始額度。Gemma 4 26B A4B 則完全沒有廠商定價——Google 並未公布任何價格——因此唯一誠實的成本數字,就是代管這些開放權重的平台所收取的費用,而這會因平台與日期而異。

這種不對稱正是應該透過路由器,而不是把單一供應商的端點直接接進你的程式碼的理由。先不談幾何,這裡正是雙方結帳都重要的地方:我們以兩個 id 提供 Gemma 4 26B A4B 檢查點——google/gemma-4-26b-a4b-it 與 obsidian/gemma-4-26B-A4B——以及 Liquid 在其表格中使用的兩個價格參考,qwen/qwen3.6-35b-a3b 是其中之一,透過同一把金鑰,以供應商標價 0% 加價提供。我們不提供 LFM2.5-24B-A2B。因此,這個頁面的實用版本是:把 Liquid 檢查點拉下來在本機執行,並在你做決定的期間,用同一把金鑰呼叫 Gemma 4 這個尺寸與 Qwen 基準,這樣你比較的是你自己任務上的表現,而不是任一供應商選擇的測試框架。

A two-column scoreboard titled 'LFM2.5-24B-A2B vs Gemma 4 26B A4B — the scoreboard'. The left column, LFM2.5-24B-A2B, lists 24.0B total and 2.45B active parameters, a 131,072-token context, text-only input, SWE-Bench Verified 51.00, AutomationBench 27.69, and a Q4_K_M download of 14.5 GB. The right column, Gemma 4 26B A4B, lists 25.2B total and 3.8B active parameters, a 262,144-token context, text and image input, SWE-Bench Verified 25.80, AutomationBench 5.46, and bfloat16 weights of about 50 GB, above a footer reading 'Benchmark rows from Liquid AI's 2026-10-13 vLLM table, which ran both models; vendor-reported and unreproduced.' and the OrcaRouter logo composited bottom-right.A capture of OrcaRouter's own model page for google/gemma-4-26b-a4b-it, showing the 'Gemma 4 26B A4B' heading and the google/gemma-4-26b-a4b-it identifier, the vision, tools, JSON and reasoning chips, Google as the vendor with a 2026-04-03 date, the summary noting 25.2B total parameters with only 3.8B activating per token, and the 262K-token context row listing text, image and video input with a p50 time-to-first-token figure.

哪一個,以及當問題真正與你的機器有關時

如果你的工作負載是文字,而你的代理需要規劃、呼叫工具並自我說明,那麼該下載的是較新的檢查點:Q4_K_M 下為 14.5 GB、131K 上下文、明確推理,以及一張基準測試表,在其中它對上這個完全相同的對手時贏得代理相關的列。如果你的任何工作涉及圖像,或者你需要 256K 上下文而非 128K,或者你想要一個沒有營收條款要追蹤的 Apache 2.0 授權,那麼 Gemma 4 26B A4B 能回答一個 LFM2.5-24B-A2B 甚至不會提出的問題——代價是未壓縮的磁碟佔用空間大約是後者的三點五倍。

這兩款模型都沒有解決的一件事是:兩者都受制於記憶體,而非受制於運算,而且兩家廠商都必須以同樣的方式解讀。Google 的系列發布文章把較大的兩種 Gemma 4 尺寸描述為 bfloat16 權重,說它們「能有效率地放入單張 80GB NVIDIA H100 GPU」——這沒錯,但這也是廠商自己的說法,而非對這個特定版本的實測。Liquid 在 Apple M5 Max 上達到每秒 184 個 token,以及「在裝置端比同類 MoEs 最高快 1.7×」,同樣也都沒有可重現的結果。兩款稀疏模型、兩家廠商、一個共同的啟示:名稱中的數字告訴你有關速度,而名稱中沒有任何東西告訴你有關記憶體。

像這樣的比較,也正是失效模式會浮現的地方:這一類模型背後有紀錄的 AI 事故與代理失效,都彙集在OrcaRouter AI 事故檔案庫,其中每一筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。