Laya 對決 Decider：421M 編碼器對抗 35B 混合模型

Laya 與 Decider 都是開放權重、非自迴歸的決策模型，能回答具型別的問題——從提供的清單中做出選擇、依有序評分規準給分、給出是/否機率——且只需一次前向傳遞，而兩者分別位於尺寸光譜的兩端。Convai Innovations 於 2026 年 9 月 18 日以 Apache 2.0 發布 Laya：一個針對英文、具 512 個 token 視窗的 421M ModernBERT-large 編碼器；一個具 1,024 個 token 視窗、涵蓋 100 多種語言的 322M mmBERT-base 多語言檢查點；以及一個會偵測書寫系統並分派到正確模型的路由器。Mapika 的 Decider 系列，從建立在小型生成式基礎模型上的 decider-0.8b 與 decider-2b，一路延伸到 decider-35b-a3b——一個約有 3B 活躍參數的 35B 專家混合模型。兩者皆可免費下載，且兩者回傳的是機率而非文字。它們無法互換的原因，並不是大多數文章開頭所強調的那個準確率數字。

兩個家族，一個架構上的賭注

共同的賭注是：決策並不需要解碼迴圈。當你問生成式模型「這張工單是退款請求嗎？」時，它必須產出符元，而一旦它產出符元，你就得自己負責解析、結構描述驗證，以及為那每兩百次才發生一次、它忘記大括號的情況準備重試路徑。Laya 和 Decider 都略過了這道手續，改為直接從單次前向傳遞中讀出答案——Laya 取自雙向編碼器，Decider 則取自提示中專用答案槽位上帶字母選項符元的 logits。

相似之處到此為止。Laya 是語言路由器後方的兩個小型編碼器，這正是讓它能在 421M 與 322M 的參數量下，換得 512 詞元的英語視窗與 1,024 詞元的多語言視窗的原因。Decider 則保留生成式主幹，並在上方加上讀出層：decider-2b 是對 Qwen3.5-2B-Base 進行監督式微調，接著在即時瀏覽器任務與精確遊戲上進行校準感知的強化學習訓練；而 decider-35b-a3b 則凍結路由專家，並以 Muon 訓練區塊矩陣。實際後果是，Decider 繼承了語言模型的世界知識，而 Laya 並沒有。另一個後果是，Decider 也繼承了語言模型的資源足跡。

Mapika 自家的文件指出，decider-2b 在 B300 上以 bf16、批次大小為一、未使用 CUDA graphs 或編譯的情況下，每次決策的中位數為 18ms；而 decider-35b-a3b 在相同設定下為 41ms。在 GH200 上，若支援工單的上下文約為 230 個 token，並包含三到五個輸入的問題，同一個專案回報 eager 模式為 49ms、使用 CUDA graphs 與 torch.compile 時為 4.0ms，且在批次大小 32 時每秒約可進行 1,370 次決策。這些是來自該專案自身說明文件的供應商公布數據，並非獨立測量結果。Laya 的頭條數字同樣是供應商公布：在 Tesla T4 上每次決策的 p50 為 32.8ms，且在批次大小 10 時每個問題為 7.2ms。

校準問題，兩個專案以不同的尺度來回答

校準是對決策模型而言最重要的數值，因為回傳機率的全部意義，就在於下游會有人依它設定閾值。這也正是直接比較 Laya 與 Decider 會誤導你的地方。

Laya 在其自家模型卡上隨附的預期校準誤差為 0.466，而該模型卡也直白指出，若針對每種題型重新擬合溫度參數，可將其降至 0.081。那是一項異常誠實的揭露，也意味著隨附的檢查點並非校準後的成品。你開箱即得的數字就是 0.466。

Decider 完全是在不同的工具上進行報告。Decision Index——一個公開排行榜，對 Jev 的每一次公開重現進行了總計 132,422 次請求的測試——將 decider-35b-a3b 排在整體第四名，得分 54.3，落後於 Jev 的 59.5，並報告它是 32 個項目中校準最佳的，校準誤差為 3.1 個百分點，且在聲明置信度 95%+ 時只有 0.4% 的錯誤答案。decider-2b 報告的則是 8.8 個百分點和 0.9%。這些是排行榜公布的數字，而 Index 的十分箱 ECE 上的 3.1 個百分點，與 Laya 在其自身評估中的 0.466 是不同的測量。將它們並列在同一張表格中，會是將蘋果與橘子相比的錯誤，卻包裝成嚴謹。你能說的是，Decider 的作者選擇在第三方排行榜上被衡量，而 Laya 的作者選擇自行公布其最弱的校準；兩者都沒有經過對方測試框架的審計。

逐一維度來看，各自勝出之處

• 主幹 — Laya：ModernBERT-large 421M 編碼器，雙向。決策器：Qwen3.5 生成式基礎，0.8B 至 35B-A3B。

• 語言 — Laya：透過路由器後方的 322M 多語言檢查點支援 100 多種語言。Decider：僅支援英語，並聲明為一項限制。

• 上下文視窗 — Laya：英文 512 個 token，多語言 1,024 個。Decider：可接受最多 32k 的輸入，在 v6 世代上訓練至 16k，探測至 30k。

• 選項集上限 — Laya：在超過約 20 個選項後會急劇退化，在 Banking77 上為 0.425，相較 Jev 的 0.870。Decider：Choice 支援 2 至 255 個具名選項，Score 支援 2 至 10 個描述層級。

• 零樣本準確率 — Laya：在 typed-decisions 基準測試上為 0.362，低於 0.461 的多數類別基線。Decider：未公布為零樣本數字；該專案改為報告任務特定結果。

• 校準 — Laya：出廠時 ECE 0.466，依題型進行溫度重新擬合後為 0.081。Decider：35B 在決策指數上為 3.1 分，為 32 個項目中最佳。

• 推理 — Laya：無，按設計即無。Decider：無，已明確聲明——它是模式比對的讀出值，而非推理器。

• 授權 — 兩者皆為 Apache 2.0。

在你選擇 Decider 之前，還有一個值得知道的細節：該專案警告，從冗長的 JSON 陣列中依位置挑選單一記錄是種弱做法，並建議透過鍵來存取記錄。這種限制只有實際執行過才會學到。

執行其中任何一個會讓你付出多少成本

Laya 的成本概況屬於微調專案。這個模型小到足以在筆電 CPU 上執行低吞吐量的工作，但隨附的英文檢查點其零樣本分數低於簡易基準線，這意味著採用 Laya 就等於承接建立標註集、微調，以及針對每種題型重新擬合溫度的工作。回報是，一旦完成，成品只有 421M 參數，並在 T4 上以數十毫秒內作答。Convai 自家微調的 laya-typed-decisions 檢查點在基準的訓練分割上達到 0.766——這個數字更能說明微調的效果，而非基礎模型，而模型卡也如此註明。

Decider 的成本概況是一項服務決策。你正在選擇要租用多少 GPU，而這個系列給你一個真正的調節旋鈕：2B 上為 18ms，35B-A3B 上則為 41ms，較大的模型換來 GPQA、GSM8K、CRUXEval 和 MMLU 上的知識與推理餘裕，這是小型模型所沒有的。如果你的任務範圍狹窄，且標籤固定，decider-2b 是較便宜的機器。如果你的任務需要模型具備知識，你就要為混合模型付費。

OrcaRouter 適合哪些情況——以及哪些情況不適合

Laya 和 Decider 都不是 OrcaRouter 上的託管模型。你得自己下載權重、自行執行，而這裡的任何東西都不會改變這一點。真正會改變的，是這個模式的另一半。一個具型別的決策模型幾乎從來就不是整個應用程式：總得有東西去讀取工單、摘要整個討論串，或起草那個決策所把關的回覆。而這另一半就是生成式呼叫，也正是 OrcaRouter 所為而生的那一半——200+ 個模型，全藏在一個 OpenAI 相容的 key 之後，價格為供應商定價原樣轉嫁，0% 加成，因此供應商一降價，當天就會反映在你的帳單上，而不是等到下一次合約續約。如果你正在拿前沿模型的輸出微調 Laya checkpoint，或者在負責初步分流的 decider-2b 與處理那棘手 4% 的大型模型之間做路由，把生成端留在同一個端點上，就代表決策端和生成端不需要兩份合約、兩套 SDK。自動容錯移轉則涵蓋了出問題的正是那個大型模型的情況。

該選哪一個

如果你的輸入是多語言的、標籤很少、在一般硬體上的延遲預算只有數十毫秒，而且你準備好要進行微調——因為你非得這麼做不可，那就選擇 Laya。如果你的輸入是英文、你需要模型將一些世界知識帶入決策，而且你寧願選擇模型規模而不是執行訓練流程，那就選擇 Decider。如果你的選項集超過二十個標籤，在決定之前先讀 Laya 的 Banking77 數字；如果你的輸入是你按位置處理的長 JSON 文件，在決定之前先讀 Decider 所述的限制。

真正能定論的那項比較——兩個模型在逐位元組完全相同的輸入上、相同提示、相同選項排序、相同閾值掃描——目前還不存在。在它出現之前，誠實的立場是：Laya 有更好的成本曲線，Decider 有更好的校準證據，而兩者都還處於夠早期的階段，因此你在自己資料上建立的評估，會比任一專案已公布的數字更有價值。