一張生成的標題卡,標題為「Tell 1 vs Gemma 4 12B」。左側卡片標示為「Tell 1」,帶有手機聽筒圖示,以及「Retell,僅租用」和「72 毫秒,無權重」兩行文字;右側卡片標示為「Gemma 4 12B」,帶有下載圖示,以及「Google,Apache 2.0」和「27 GB 權重」兩行文字。兩張卡片之間的分隔線寫著「一個是檔案」。OrcaRouter 標誌合成於右下角。
Guides & Insights

Tell 1 vs Gemma 4 12B:一個能放進磁碟,一個只能打電話

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

理解 Tell 1 與 G​emma 4 12B 之間差異的最快方法,就是試著把兩者都下載下來。G​emma 4 12B 以 Apache 2.0 授權提供,約 27 GB 的 BF16 safetensors,在量化版本中可在單張 24 GB 顯卡上以每秒約 110 個 token 的速度執行,而且只聽命於你,不聽命於其他任何人。Tell 1 則根本無法下載。它是 Retell 自家的推理模型,存在於一個語音代理平台內;該平台每分鐘收費 0.07 至 0.31 美元,不販售這個模型、不為它發布模型卡,也不讓你把它指向自己的基礎設施。這項比較中的其他一切,包括基準測試,都源自這種不對稱,因為這兩個模型之中,一個任何有 GPU 的人都能測量,另一個則只有擁有它的公司才能測量。

兩者都是真正有趣的發布,且是為不同任務而打造。Gemma 4 12B 是 Google DeepMind 的無編碼器中型開放模型,於 2026 年 6 月 3 日發布,旨在於你面前的機器上進行多模態推理。Tell 1 則是聯絡中心技術堆疊的推理層;在該模型問世之前,這個堆疊每月處理超過一億通來電,而它的設計目標正是地端模型無法達成的一件事:讓第一個音節落在電話來電者對沉默的容忍範圍內。

有兩樣東西都稱為模型,而只有其中一個是檔案

Gemma 4 12B 是擁有 119.5 億稠密參數的模型,沒有獨立的視覺或音訊編碼器——影像區塊與音訊波形會直接送入 Transformer,因此這個系列以單一「統一」檢查點的形式發布,而非由多個塔狀模型堆疊而成。它具備 256K 詞元的上下文,可讀取文字、影像、音訊與視訊影格。Hugging Face 儲存庫的下載次數已超過 1,400 萬次,聊天範本最後於 2026 年 7 月 9 日修訂,授權則為 Apache 2.0,沒有營收條款、沒有使用者人數條款,也無需協商另行商業協議。

Tell 1 完全沒有那些產物。我在 Retell 自家網站上能找到的任何地方,都沒有看到儲存庫、設定、分詞器、授權條款文字,也沒有公布上下文視窗數字——而我查看過部落格、更新日誌、文件索引、新聞室,以及公司的模型基準測試網站。它總共只出現在兩個地方:一是首頁上的一個標籤,位於標題為「Developed by Retell Labs」的區段底下、緊鄰「Agent harness」;二是 9 月更新日誌中一則關於 Retell 公開語音基準測試的條目,後來在 11 月補上的更新註記。這就是全部的公開紀錄。這不是醜聞;許多平台供應商都會推出內部模型而不加以記錄。但這確實意味著,這場比較有一半必須建立在供應商自己的說法上,而另一半你可以今晚就在自己的硬體上進行。

其中一人公開回答的五個問題

將兩者並列在買家真正需要的各個層面上,差距的輪廓就會顯而易見。每一行都要呈現雙方,因為重點在於對比,而非評分:

• 權重 — G​emma 4 12B 會公開釋出權重,Apache 2.0 授權,可自行託管、可微調、可再散布;Tell 1 則什麼都不公開,只能作為 Retell 語音代理的一部分才能使用。

• 規模 — G​emma:11.95B 稠密參數,BF16 約 27 GB、量化後低於 7 GB;Tell 1:未公開;而它在 Retell 的測試框架內以 72 毫秒中位數回應,這暗示它是小型、專用打造的模型,而非前沿通用型模型,但這只是推論,並非文件記載。

• 上下文 — G​emma 4 12B 為 256K tokens;Tell 1 則未說明,這對電話代理而言沒有聽起來那麼令人擔憂,因為一通電話很短,而知識庫存在於模型之外。

• 模態 — G​emma 接受文字、圖像、音訊和視訊並傳回文字;Tell 1 接受語音平台交給它的轉錄稿與工具承載資料,而它還接受哪些其他內容則未公開。

• 證據 — Gemma 有廠商資料卡(DocVQA 94.9、InfoVQA 88.4、MMLU-Pro 77.2、GPQA Diamond 78.8,皆為 Google 回報),加上獨立的 Artificial Analysis 智慧指數 14,速度約為每秒 110.9 個 token;Tell 1 在其所有者撰寫的基準測試中只有一列資料,下文會加以說明。

注意哪一欄較長。這不是在貶低 Tell 1 的品質;這是在說明你在花錢之前能驗證什麼。可下載的模型,你能在一個下午內用自家資料測試。只能租用的模型,則得先租下來才能測試。

Tell 1 的頭條數字實際上衡量的是什麼

Retell 的 vCX Benchmark 以結構化資料而非行銷圖表的形式公布結果,這一點勝過多數供應商排行榜的做法。Tell 1 位於一張涵蓋 45 個模型、共 62 種受評配置的表格中,其列在對話端表現最強:在 Retell 的口語維度上達 96.6%,中位數為 72.5 毫秒,兩項均居全場第一。同一列在指令遵循以及 Retell 標示為幻覺的那一列上排名第二,在工具呼叫上排名第五,而每分鐘 3.5 美分的模型成本則使其在 62 個配置中排第 19。將四個維度平均後可得 94.45%,這正是 Retell 主打的數字。

這些排名旁有兩點但書,而這兩點都不是 Retell 不誠實——只是資料根本不支持更簡潔的解讀。第一,Tell 1 那一列標示的是基準測試版本 17,而 62 列中有 50 列標示的是版本 1;基準測試修訂其任務是正確做法,但跨兩套不同測試集計算出的「#1 overall」是匯總結果,並非同類比較的結果,而該頁面並未為此進行標準化。第二,四個維度並不一致。Tell 1 在自己這套基準測試中,無論是指令遵循或工具呼叫都不是最佳模型——GPT-6-Astra 的指令遵循得分為 89.7%,高於 Tell 1 的 88.6%,而且至少有一個 Claude 版本在工具呼叫上略勝一籌。它徹底勝出的是來電者聽得見的兩件事:它最快,而且聽起來最像真人。

有一個數字值得分清楚,因為在報導中這兩者常被混為一談:72 毫秒是模型在測試框架(harness)內的延遲,而不是來電者的實際體驗。Retell 首頁標示的典型代理回應時間約為端到端 600 毫秒,其中包含語音辨識、流程編排、模型回應與語音合成。這兩個數字可以同時成立。只有第二個才是電話那頭的人真正感受到的。

A generated two-column scoreboard headed 'Tell 1 vs Gemma 4 12B'. The Tell 1 column reads 'Weights: none published', 'Size: undisclosed', 'Context: unpublished', 'Input: call transcript', 'Evidence: vendor benchmark', 'Price: 3.5c per minute'. The Gemma 4 12B column reads 'Weights: Apache 2.0', 'Size: 11.95B dense', 'Context: 256K tokens', 'Input: text image audio', 'Evidence: AA Index 14', 'Price: $0.10 / $0.30'. A footer reads 'Tell 1 figures from Retell; Gemma figures per Artificial Analysis.' The OrcaRouter logo is composited in the bottom-right corner.

每一個在堆疊中應該放在哪裡

G​emma 4 12B 並不適合用於即時電話代理,問題不在於品質。單一 GPU 上的 12B 稠密模型是很不錯的元件,但經過自家服務堆疊的往返,再加上語音辨識與合成,才會把端到端回應推到來電者開始搶話的區間。G​oogle 自己對 12B 的定位是筆電上的代理式工作——文件理解、螢幕閱讀、工具使用、程式編寫輔助——而這個定位是準確的。如果你的工作是一晚十萬張發票、無法傳送給第三方的私有語料庫,或離線現場裝置,Tell 1 無法競爭,因為 Tell 1 根本無法部署在那些地方。

Tell 1 正好相反。它無法離開 Retell,你無法用你的逐字稿對它進行微調,第三方也無法在未經 Retell 配合的情況下對它進行基準測試。它能做的是在一個已經擁有電話通訊、輪流發言機制與語音的平台上作答,並以 72 毫秒完成——這正是整個堆疊中無論多少提示工程都無法解決的部分。如果你是要購買聯絡中心代理,而不是自行打造一個,那這就是唯一重要的欄位。

折衷路線正是大多數團隊實際落腳之處:用小型自架模型處理大量、確定性的工作,並用託管的前沿模型處理棘手環節。這兩個模型都不是那個第二順位的自然選擇,而這正是我們自家的型錄派上用場的地方。Tell 1 和 G​emma 4 12B 都無法透過 OrcaRouter 路由——我們不託管 Tell 1,而我們提供的 G​emma 4 尺寸是 31B Instruct 與 26B A4B,不是 12B。這兩者都按供應商牌價計價、沒有任何加價:31B 每百萬 token 輸入 $0.13、輸出 $0.38,26B A4B 則是 $0.06 與 $0.33;如果你原本想從 12B 得到的是「一個不必自己擁有 GPU 就能呼叫的 G​emma 4」,這才是誠實的比較基準。

成本,換算為相同單位

把每分鐘的平台價格拿來和每個 token 的模型價格相比,正是這類文章悄悄做手腳的地方,所以這裡提供的是換算,而不是結論。Tell 1 並未單獨計價;它包含在 Retell 每分鐘 0.07 至 0.31 美元的價格內,而承載它的基準測試列寫的是每分鐘 3.5 美分的模型成本,這是落在該區間內,而不是取代該區間。G​emma 4 12B 在 Artificial Analysis 的混合價格——每百萬輸入 0.10 美元、每百萬輸出 0.30 美元——換算下來每個 token 可說幾乎免費,接著你要付的是 GPU 的錢:一張 24 GB 顯示卡跑一小時,成本就超過 Retell 最便宜方案的一千分鐘,所以只有在持續用量大且使用率高時,才會出現交叉點。

• 成本單位 — Tell 1 為每分鐘對話的美元成本;G​emma 4 12B 為每百萬個 token 的美元成本加上 GPU 小時。

• 損益平衡點 — 當您的 GPU 已經忙於運算時,Gemma 便會在邊際成本上勝出;Tell 1 則在總持有成本上勝出,直到用量大到足以讓一張顯示卡持續滿載為止。

• 隱藏明細項目 — Tell 1 將電話通訊、語音合成與執行框架整合成單一號碼;自架 Gemma 堆疊則會分別就 ASR、TTS、服務層與待命工程師向你收費。

該選哪一個

如果本季要的是一個聽起來像真人的電話代理,Tell 1 是兩者中唯一真正稱得上產品的,而基準測試——包含其注意事項——顯示,它最擅長的事正是你要買的東西。在同一個 Retell 代理中,拿它跟你目前信任的模型對測,聽二十通電話,並計算 grounding 錯誤,因為 Retell 自己的資料顯示,那正是它失分的地方。

如果需求是一個你能檢視、微調、私下託管、在產品內重新散布,或可在無網路環境下執行的模型,那麼 Gemma 4 12B 不只是更好的選擇——它是本頁唯一的選擇。Apache 2.0 與 12B 的 256K 上下文,是每個月都變得更有用的組合,而 1,400 萬次下載也顯示許多團隊早已得出這個結論。

在購買其中任何一項之前,值得問的問題是:那兩句話之中,哪一句才描述了你的問題,因為它們並不是同一個問題,而沒有任何基準測試能告訴你,你面對的是哪一個。

A screenshot of the Hugging Face model card for Gemma 4 12B captured on 13 November 2026, showing the Apache-2.0 licence label and download counters of 1,738,905 for the last month and 14,195,664 all-time.A screenshot of the OrcaRouter model page for gemma-4-31b-it captured on 13 November 2026, showing a 256K context, $0.13 per million input tokens and $0.38 per million output tokens, and a listed date of 2026-04-02.