Gemini 決策 1 對比 Laya：租用 262,144 個 Token，對比擁有 512 個 Token

兩種決策模型，兩個從相反端描述同一個設計選擇的數字。Gemini Decision 1 在單次呼叫中接受 262,144 個 token 的輸入，以及最多 1,000 個輸入問題，價格為每百萬輸入 token $0.10，使用 Google 自家 API。Laya 在其英文檢查點上接受 512 個 token 的文字，在你已經付費的 T4 上執行，且為 Apache-2.0。這在視窗上是 512 倍，在價格上則是無限大，方向相反，而且沒有基準測試能挽救這項比較，因為這兩個模型並非為同一項工作而打造。

Convai Innovations 於 2026 年 9 月 18 日發布 Laya，以同一個儲存庫中的三個檢查點形式推出：一個 421M 的 ModernBERT-large 英文模型、一個 322M 的 mmBERT-base 多語言模型，以及一個 typed-decisions 變體。Google 於 2026 年 11 月 11 日發布 Gemini Decision 1，並未公開權重、參數量或基礎模型。唯一能同時用來對照兩者的數字，是一張只收錄其中一者的排行榜：Gemini Decision 1 在 Artificial Analysis Decision Index v2.1 上以 66 分排名第九（共十八名），而 Laya 並不在該榜上。

一個 512 token 的視窗，在早餐前就排除了哪些可能

先從限制條件談起，因為它淘汰整個產品類別的速度，比任何準確度數字都快。

• 共享輸入 — Gemini Decision 1 可讀取多達 262,144 個權杖，涵蓋輸入內容與每一個問題。Laya 的英文檢查點只讀取 512 個權杖，僅此而已。多語言檢查點預設為 1,024，可透過 max_len=8192 推高至 8,192，此時 Convai 自家的說明卡指出，在最多約 4,000 個權杖的上下文中，20 個長文件請求中有 16 到 18 個正確，而「超出此範圍後結果則有差異」。

• 模態 — Gemini Decision 1 可在同一個請求中接受文字、圖像、影片、音訊與 PDF。Laya 僅接受文字。掃描的理賠申請表、通話錄音或產品照片，必須先由上游環節轉換成文字，才算得上是輸入；而這項轉換是另一個模型，有另一筆成本，也有它自己的錯誤。

• 每次呼叫的問題數 — Gemini Decision 1 最多可達 1,000 個，彼此獨立隔離，且一次完成。Laya 會以同一個狀態回答你送出的問題，而它自家的文件指出，實務上的上限大約是每個選擇題五十個選項，超過之後模型分配給每個選項的 token 預算就會變得吃緊。

• 價格 — Gemini Decision 1 每百萬個輸入 token 為 $0.10，經 Artificial Analysis 測量，每百萬項任務為 $345，且不含上下文快取，也不含 Batch API。Laya 是一個下載檔：英文檢查點約 808 MB，無每次呼叫費用，而 T4 執行時每項決策約需 32.8 毫秒。

• 授權與散布 — Apache-2.0 權重、無需託管依賴，以及 pip install laya 進入點。Gemini Decision 1 僅在 v1beta 的 Gemini Developer API 上提供，免費方案為每分鐘 200 次請求，並附有支援與不支援功能的說明清單。

計分板上顯示的是這兩者之一，而那並不是平手。

Gemini Decision 1 的 66 分是由六項加權評估構成的綜合分數，其中 45% 建立在私有資料上，計分方式為準確率減去附加於答案的 Brier 懲罰。對一款首發日模型而言，其優勢與弱點異常分明：在 AA-Omniscience-Decision 上以 66.3 在十八個模型中排名第一，在 HLE-MultiChoice 上以 48.7 排名第一，但在 AA-Paperclip 上以 56.8 排名第九，全有或全無的文件通過率為 33%，在 When2Call 上以 80.5 排名第十四。總體排名第九，在知識與棄答受測之處排名第一，在擷取與工具選擇之處位居中段。

Laya 沒有可比的數字，而專案在自己的模型卡中說明了原因。基礎檢查點在 typed-decisions 基準上的零樣本得分為 0.362——低於 0.461 的多數類別基線，且接近隨機。標題分數 0.766 則需要在該基準自己的訓練分割上進行微調。Convai 的總結句正是任何評估都應記住的一句：Laya 是快速可特化的基礎，而不是零樣本決策引擎。

那不是要拿來跟前沿實驗室模型評分比較的弱點；那是不同的產品定位。Gemini Decision 1 販售的是它本身就擅長做決策。Laya 販售的是它在經過你訓練後，會變得擅長你的決策；屆時其公布數字——在類型化決策上 0.766 對上同類產品的 0.727，在 AG News 上 0.950 對上 0.910——在它被擬合過的任務上具有競爭力。

人們實際會建立的兩種管線

因為兩者的能力幾乎不重疊，所以誠實的問法不是「該選哪一個」，而是「你手上的是這兩種工作中的哪一種」。

Gemini Decision 1 正適合這項工作。 當一份冗長的輸入送達——一份 60 頁的合約、一小時的通話音訊、一個裝滿掃描發票的資料夾——就必須對它附加許多判斷。在一次計費讀取中，對單一工單套用四十條政策規則；依評分規準對一百個候選答案評分；做出一項取決於證據的路由決策，而這些證據分散在一份沒有人想分塊的文件中。Google 自家的文件點名的正是這些情境：請求路由、一次套用多條規則的政策檢查、依評分規準為候選項目評分、工具選擇、對即時媒體進行低延遲分類。1,000 題的上限與多模態輸入，正是這個產品存在的全部理由，而這也是 Laya 無論付出什麼代價都做不到的兩件事。

這正是 Laya 適合的工作。簡短的狀態與單一決策，而且是在每次呼叫成本構成限制、標籤集由你決定的用量規模下。依你自己的分類體系進行工單分流、意圖分類，以及在昂貴模型執行前設下一道是/否關卡。在 T4 上以 32.8 毫秒執行 421M 編碼器，每次呼叫幾乎等於免費；而且因為答案空間是依每次請求組裝，而非預先烘焙進詞彙輸出頭，你今天下午臨時想出的結構描述無須重新訓練就能被接受——不過仍需要訓練資料才能準確。

這種組合並不奇特：Laya 作為快速的第一階段，處理它受訓所針對的那 80% 流量，而大型的代管評分器則負責那些需要從長輸入或非文字輸入取得佐證的項目。這種模式的成本低於把所有內容都送往 Google，而且比在合約上跑一個 421M 編碼器更能優雅地失效。

成本比較實際上落在何處

在低用量下，Laya 的經濟效益無可匹敵，卻也無關緊要。T4 無論你用不用，每月都要幾百美元；而一百萬個 Gemini Decision 1 任務要價 345 美元，則是一筆得有人簽核的支出項目。每月低於數十萬次決策時，託管端點光是省下的工程時數通常就能勝出——不必跑訓練、不需要標籤集，也不需要服務堆疊。

在高用量下，算術結果會翻轉，但有一個比交叉點更關鍵的注意事項：只有在模型已經能在你的任務上表現良好時，Laya 的邊際成本才接近於零。若不然，標註資料才是真正的帳單。Convai 的說明卡明確指出，微調才是產生所公布數字的關鍵，因此誠實的比較是：每百萬個託管任務 345 美元，對上 GPU 加上標註足夠範例以達到你可信校準的成本。這兩者都不是按 token 計費的費率，而假裝不是如此的比較，就是拿租賃價格跟建案成本相比。

接著是延遲型態，而這正是這兩款產品完全不再構成替代品的地方。Gemini Decision 1 在該基準上每項任務測得 211 毫秒——對於客戶訊息背後的一次路由跳轉來說沒問題，但對逐幀迴圈來說就略顯勉強。Laya 在 T4 上的 32.8 毫秒，才是讓逐幀與逐鍵決策成為可能的數字，而這是無論多少 Google 基礎設施都無法彌補的一項優勢，因為它源自僅有 421M 參數，而非前沿規模的多模態模型。

將兩者皆非的部分進行路由

OrcaRouter 兩個模型都不提供。Laya 是 Apache-2.0 授權的權重，由你自己執行；而 Gemini Decision 1 是 Google 自家 API 上僅提供機率的端點——決策模型不是聊天補全的目標端點，我們不會列出無法提供的項目。型錄中的決策模型是 TypeSafe 的 typesafe/jev-1.14，在同一指標上為 66.23，如果你在意以單一金鑰進行評分呼叫的話。

真正該置於路由器之後的呼叫，是這兩個模型都依賴、卻都不執行的那個：轉換步驟。Laya 的 512 個 token 視窗意味著，上游模型必須先把文件、錄音或螢幕截圖轉成簡短的狀態，Laya 才能據此判斷；而 Gemini Decision 1 每項任務的成本，主要取決於你交給它多少上下文。選擇與替換那個上游模型，是這條流程中反覆出現的決策，而這正是我們為之打造的：透過單一 OpenAI 相容金鑰即可使用超過 200 個模型，供應商定價以 0.0% 加成直接傳遞，因此供應商降價當天即可生效，且供應商服務品質下降時自動容錯移轉。只要針對路由器撰寫一次，你自有的編碼器與你租用的評分器就都能保持可替換。

本週該做什麼

如果你的輸入超過一頁、包含任何非文字內容，或需要對它追問超過幾個問題，Laya 就不在候選之列，決定因素就落在 Gemini Decision 1 與其託管同類產品之間的價格與通過率。Google 的文件用一段文字列出該模型支援哪些功能；在圍繞它進行設計之前先讀過這段，因為不支援的清單——不支援快取、不支援批次、不支援 Flex 或 Priority、問題指示中不得夾帶媒體——比支援的清單還長。

如果你的輸入是一句話或一段簡短的 JSON blob，而標籤集是你自己的，那麼用託管模型來做這件事既昂貴又不划算。下載 Laya、標註 500 個範例、進行微調，並在信任那些信心分數之前先檢查校準情形——這正是其作者所設計的工作流程，而他們自家的 model card 對於基礎檢查點與微調後檢查點之間的落差，說明得異常清楚。

你不該做的是拿 66 去和 Laya 模型卡上的數字相比。它們是用不同的評測工具產生的：其中一個是低於多數類別基線的零樣本分數，另一個則是六項私有資料評估的加權綜合分數。唯一值得進行的比較，是在你自己有標註的項目上進行；而在這兩個模型中，只有一個能用這種方式執行。