文章〈Clef-Flash vs LFM2.5 2.6B Base〉的主視覺標題卡,副標題為「同被稱為小型的兩個模型,相隔如兩臺機器」。OrcaRouter 標誌合成於右下角。
Guides & Insights

Clef-Flash 與 LFM2.5 2.6B Base:兩個都被稱為「小」的模型,卻相差三個數量級

作者

Elias Hawthorne

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

大多數人實際上會下載的 clef-flash 版本是 11 GB。LiquidAI/LFM2.5-2.6B-Base只需不到 2.5 GB 的記憶體就能執行。兩款模型都被打造它們的實驗室形容為小巧、快速又有效率,而這兩種描述也都準確無誤——這正是這項比較之所以有用的原因,因為這兩個詞所發揮的作用截然不同。Cloudflare/clef-flash是一款 9B 的多模態決策模型,能以經過校準的機率回答鍵入的問題,而且從不寫出任何 token;它需要 H200 等級的 GPU,才能在自己的卡上達到 38.8 毫秒的中位延遲,而 Cloudflare 為它主打的賣點,是在自家網路內進行邊緣推論。LFM2.5 2.6B Base 則是 Liquid AI 於 2026 年 8 月 1 日發布的預訓練文字檢查點,好讓其他人能對它進行微調,而其預定的部署目標是一台筆記型電腦。

它們兩者都不是你會放進聊天視窗裡的語言模型。兩者都很便宜。在它們之間做選擇,其實不是關於品質的選擇——而是關於你的硬體預算是多少,以及你正在打造的東西是否已經知道它的答案會長什麼樣子。

足跡對話,以數字呈現

先從機器實際需要什麼開始,因為這是兩者差距最大的軸線。

• 參數 — Clef-Flash 是一個凍結的 Qwen3.5-9B 主幹,帶有視覺編碼器,外加一個 243.5 MB 的聯合結構描述頭;LFM2.5 2.6B Base 則有 26.9 億個參數,僅文字。

• 磁碟與記憶體 — 社群 clef-flash 建置為 11 GB;完整的 Hugging Face 儲存庫約 18.8 GB,包含四個主幹分片加上頭部。LFM2.5 2.6B Base 標示推論記憶體用量低於 2.5 GB,並同步發布量化 GGUF、ONNX 與 MLX 版本。

• 延遲 — Clef-Flash:中位數 38.8 毫秒,p95 為 122.4 毫秒,由 Cloudflare 在單一 H200 上測量。LFM2.5 2.6B 是此基礎檢查點的後訓練同系列模型,在 Apple M5 Max 上以每秒 220 個 token 運行,在 AMD Ryzen CPU 上則為 113 tok/s。

• 上下文 — 根據 Cloudflare 的 Workers AI 文件,Clef-Flash 為 65,536 個 token;LFM2.5 2.6B Base 則為 131,072 個 token。

• 授權 — clef-flash 採用 Apache-2.0;LFM2.5 採用 LFM 1.0 授權條款,這是開放權重,但不是經 OSI 認可的開源授權;如果你是要推出產品,而不是進行實驗,這個差異就很重要。

那兩條延遲曲線測量的不是同一個單位,你不應該把它們相減。但把它們放在一起讀,它們明白地說出了顯而易見的事:Clef-Flash 是資料中心元件,其隨附的執行環境也恰好位於邊緣網路上,而 LFM2.5 2.6B 則是為你桌上那台機器而設的元件。

為什麼基礎檢查點是不同類型的物件

名稱中的「Base」一詞至關重要,而 Liquid AI 自家的模型卡對此也異常坦率。LFM2.5-2.6B-Base 是預先訓練的純文字檢查點,30 層網路由 22 個雙閘控短卷積區塊與 8 個分組查詢注意力區塊組成,以十六種語言、128,000 個詞元的詞彙表,訓練了 34 兆個詞元。它「僅建議用於需要大量微調的任務」——特定語言的工作、特定領域的助理、以專有資料進行訓練。它的模型卡就是這麼明文寫著的。

Clef-Flash 正好相反。它已經完成。訓練已完成,schema 頭已栓上,API 合約已發布,而且模型以標價託管在供應商自家的邊緣網路上。你不必微調它;你呼叫它,或者下載它並在本機呼叫。這個系列還附帶一個微調產品——Cloudflare 與這些模型一同推出了一個——但使用 clef-flash 並不需要它,而這正是重點。

所以誠實的說法是:這些是兩條不同管線的兩個階段。一個是原料,一個是元件。如果你的任務是「我有 40,000 筆已標註的客服工單,想要一個能在我們自家機器上執行的快速領域專用分類器」,LFM2.5 2.6B Base 是合理的起點,而 clef-flash 不是,因為你無法把 clef-flash 的決策頭微調成它原本沒有的語言能力——它根本沒有語言輸出路徑。如果你的任務是「我需要在 50 毫秒內把請求路由到六個桶子之一,並附上我可以設閾值的機率」,clef-flash 開箱就能回答這個問題,而 LFM2.5 2.6B Base 則完全無法以任何形式回答。

A two-column comparison scoreboard titled 'Clef-Flash vs LFM2.5 2.6B Base — the scoreboard'. The left column, 'Clef-Flash', has rows reading 'Parameters: 9B with vision encoder', 'Context: 65,536 tokens', 'Output: calibrated probabilities', 'Footprint: 18.8 GB, H200-class', 'Latency: 38.8 ms median' and 'Licence: Apache 2.0'. The right column, 'LFM2.5 2.6B Base', has rows reading 'Parameters: 2.69B text only', 'Context: 131,072 tokens', 'Output: generated text', 'Footprint: under 2.5 GB, laptop', 'Latency: 220 tok/s on M5 Max' and 'Licence: LFM 1.0'. The footer reads 'Clef-Flash figures vendor-reported; LFM2.5-2.6B-Base figures per Liquid AI.' The OrcaRouter logo is composited in the bottom-right corner.

真正共享的部分

有一個真正的重疊之處,值得精確地說明,因為這正是比較不再顯得微不足道的地方。

一個經過後訓練的通用模型——LFM2.5 2.6B,或任何小型指令模型——只要下提示,就能讓它回傳結構化分類。給它一份 JSON schema,要求一個標籤和一項信心分數,再解析輸出。大家老是這麼做。問題是,這麼做的時候,你實際拿到的是什麼。

你拿到的是一個 token 序列,裡面剛好含有你能擷取的標籤,外加模型自己寫下的一個數字。那個信心值是一個取樣出來的 token,不是對候選答案做 softmax 得到的結果,因此它的意義並不等同於校正過的機率。Clef-Flash 的說明卡對自家 API 中類似的數字格外謹慎——信心值「顯示的是機率有多集中。這並不是答案正確的機率」——而它負擔得起這種謹慎,因為背後的量是你所提供的選項上的一個真實分布。經過提示的通用型模型並沒有這樣的分布可以揭露。它只有一句寫著 0.85 的話。

那個區別是否值得 11 GB 和一张 H200,完全取決於你拿這個數字來做什麼。如果這個標籤只是要放進儀表板,那麼以提示詞驅動的 2.6B 模型就夠了,而且無論從哪個角度衡量都更便宜。如果這個標籤要為不可逆的動作把關——核發退款、封鎖帳戶、升級安全事件——那麼校準過的分數與看似合理的字串之間的差異,就是你能向稽核人員證明的門檻,與你無法證明的門檻之間的差異。

A screenshot of the Hugging Face model card for LiquidAI/LFM2.5-2.6B-Base, a text-generation checkpoint of 3B parameters under the LFM 1.0 licence, tagged lfm2, liquid, fm2.5, edge and conversational, described as a hybrid model family designed for on-device deployment with quantizations derived from it and a note that no inference provider is deployed for it. A downloads-last-month figure reads 16,541.

你可以在哪裡取得每一個

OrcaRouter 上沒有這兩個模型。我們的目錄並未收錄 clef-flash,也未收錄 LFM2.5 2.6B Base 或任何其他 Liquid AI 檢查點——你可以透過呼叫我們的模型 API 並取得 404 來驗證這兩者。本文中沒有任何內容是我們對可用性的聲明。

Clef-Flash 可在 Cloudflare 的 Workers AI 上取用,每百萬個輸入 token 收費 $0.09,或是以 Apache-2.0 權重形式自行執行。LFM2.5 2.6B Base 已在 Hugging Face 上提供,附有供 llama.cpp、ONNX Runtime 與 MLX 使用的量化版本,Liquid AI 也為此系列提供自家的 playground 與文件。如果你想要一個今天已在我們目錄上線的決策模型,目前在那裡的是 TypeSafe 的 Jev 1.13——相同的請求格式、65,536 token 上下文、每百萬個輸入 token 收費 $0.042——而 clef-flash 就是為了直接替換它而打造,這意味著試用任一個都只是改設定,而不是改寫程式。兩者呼叫相同的 endpoint 類別,所以如果你已經透過單一金鑰路由,並以供應商標價原樣傳遞、不加價,這項比較就是今天下午就能進行的實驗,而不是你得規劃的遷移。

A screenshot of the OrcaRouter model page for TypeSafe's Jev 1.13 (typesafe/jev-1.13), showing a 65K token context, text input, structured JSON output, a p50 TTFT of 148 ms, a $0.04 per million input token price, 174.0M tokens of throughput, and the POST /v1/systemone request shape.

哪一個屬於你的技術棧?

決策樹很短。如果你的答案是你能事先寫下來的有限清單,而且你需要一個有意義的機率,並且你有硬體或願意按次付費——clef-flash 就是完成品元件,而 LFM2.5 2.6B Base 不是候選項目。如果你的答案是開放式的,或者你真正需要的是一個可以用自己的資料塑造、並在筆電上執行的小型語言模型,那麼 LFM2.5 2.6B Base 就是起點,而 clef-flash 完全幫不了你。

人們會搞錯的地方在於中間那條路:用提示詞叫一個小型通用模型來打造有界分類器,因為這是最省力的做法,而且在 demo 裡行得通。它在 demo 裡行得通。可是當你需要那個數字真的是數字時,它就行不通了,而到那時候,schema、提示詞和解析程式碼全都已經成了承重結構。

關於 clef-flash 這邊,有一點必須直說,因為這是供應商自家最難看的數字:在帶有範圍外處理的 CLINC150 上——正確答案有時是「這不屬於你任何一個類別」——clef-flash 的 macro-F1 只有 66.8,而它更大的 27B 同門模型則有 97.4。有界的結構描述是一項優勢,直到輸入不再符合它為止,而模型還是會照樣分類。無論你採取哪條路線,都要刻意建立殘餘類別,並稽核落入其中的項目。