標題卡寫著「Scribe v3 Live Medical vs Whisper Large v3 Turbo」,副標題為「一個你租不到,一個你能擁有」。下方是一道單一刻度:左側是一個上鎖的掛鎖圖示,標示為「僅限 ElevenAgents,沒有模型 ID」;右側是一個打開的盒子,標示為「809M 參數,MIT 授權,執行時約需 6 GB VRAM」。
Guides & Insights

Scribe v3 Live Medical 對比 Whisper Large v3 Turbo:你租不到的模型 vs 你能擁有的模型

作者

jinhao.song

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

Whisper Large v3 Turbo 是一個以 MIT 授權條款釋出的 8.09 億參數模型,你可以下載它、量化到約 1.6 GB,並在單張不算高階的 GPU 上以約為 Whisper Large v3 八倍的速度執行。Scribe v3 Live Medical 則是 ElevenLabs 的臨床微調版本,你無法下載、無法透過 API 呼叫,除非你在 ElevenAgents 內執行代理程式,否則根本取得不了。把這兩者放在同一句話裡顯得很奇怪,直到你注意到它們在真實決策中占據同一個位置:當通用轉錄器不斷把「empagliflozin」聽錯時,這兩者都是你會求助的選項,而大多數團隊只能取得其中一個。

那才是真正的比較。不是準確度——這兩個數字並不相符——而是可用性,以及開放基線要你在工程上付出多少代價,去彌補一個廠商不會賣你閉源方案來填補的落差。

「這不是基準測試之爭」的十一個字版本

ElevenLabs 為 Scribe v3 Live Medical 公布的數據是:在 PriMock57(57 段模擬基層醫療問診)上的字詞錯誤率為 12.8%,而四款競爭對手的即時醫療與通用模型則為 15.5% 至 17.2%。Whisper Large v3 Turbo 公布的數據是:LibriSpeech test-clean 為 2.1%,test-other 為 4.2%——這是朗讀英文有聲書的語音,該語料庫多年來一直是標準公開基準,而它與一通關於處方的電話相比,幾乎是音訊類型所能達到的最大差距。

在 LibriSpeech 條件下,一個 809M 的開源模型以大幅差距勝過一個臨床微調模型。但在配戴劣質耳機的真實問診中,這兩個數字都只是雜訊。這兩個數字彼此都無法預測對方,而任何人把它們並列並宣佈贏家,都是在拿批次模型的無塵室測量,去比較串流模型的廠商自行測量。誠實的說法是:醫療微調模型宣稱在臨床音訊上優於其他即時模型,而 Whisper 宣稱在乾淨的朗讀語音上優於其他開源模型,而這兩項宣稱彼此毫不相干。

Whisper Large v3 Turbo 實際上是什麼,以及不是什麼

OpenAI 對 Whisper Large v3 的蒸餾版本,於 2024 年 10 月以 MIT 授權釋出:32 層編碼器與 4 層解碼器,解碼器層數從 32 層縮減而來,速度正是源自於此。它可在 faster-whisper、whisper.cpp、ONNX 與 GGUF 版本中執行,量化後小到足以跑在筆電上,涵蓋 99 種語言,而且無論是在單一 GPU 還是整座機架上執行,都不需支付任何授權費。

它不是什麼;而這份清單對臨床代理而言才是關鍵:

• 它不支援串流。Whisper 的架構是圍繞固定的 30 秒視窗建構的,因此「即時」意味著將音訊切塊並重新執行,為重疊部分付出成本,並接受轉錄文字會落後語音,落後的程度取決於你緩衝了多少。它沒有原生的部分結果串流,也沒有輪次偵測。

• 它不進行語者分離。只有單一的字詞流,無法辨識誰說了什麼。在病人與臨床醫師都會說出藥物名稱的兩人諮詢中,你得另外加裝一個獨立的說話者標記模型,否則就只能接受一份未標註的逐字稿。

• 它不會進行格式化。標點與大小寫都會按照音訊所產生的原樣呈現,連不流暢的語句也一併保留。沒有自我修正的處理、沒有句首大寫調整、也沒有臨床紀錄的結構。

• 它並未針對翻譯進行訓練,也沒有領域偏置機制。沒有關鍵術語清單可把處方集交給它,也沒有提示詞告訴它這是心臟科通話。你要嘛進行微調,要嘛進行後處理,要嘛接受這些錯誤。

相較之下,Scribe v3 Live Medical 幾乎完全由那四項缺失的元素構成:它支援串流,具備能等到會員 ID 說完的輪次預測,免費支援多達 10,000 個自訂臨床術語,而且是對以對話(而非有聲書)訓練的模型進行微調而成。ElevenLabs 坦率說明其極限所在——沒有周圍脈絡的孤立藥名,是所有模型最難處理的情況,而建議做法是使用關鍵術語,讓辨識結果偏向你預期的內容。

The openai/whisper repository page on GitHub, showing 113k stars and 13.7k forks, the README heading 'Robust Speech Recognition via Large-Scale Weak Supervision' and an MIT license badge in the sidebar.

自行縮小差距的工程成本

這正是比較從排行榜變成試算表的地方。若團隊想讓 Whisper Large v3 Turbo 表現得像臨床即時轉錄器,就必須打造四件事:

• 串流包裝層——分塊音訊、重疊視窗、部分假設合併,以及你自己的一套端點偵測規則,因為 Whisper 完全不會幫你處理這些。預期你得在接縫處理上投入相當的時間;多數自製語音代理最嚴重的延遲,正是出在這裡。

• 詞彙機制——Whisper 完全沒有。你要嘛用自家臨床音訊進行微調,而這需要你可能沒有的標註資料;要嘛對照藥名清單做後校正,而這是個模糊比對問題,會產生它自己那一類信心十足的錯誤。

• 一次說話者分離處理——第二個模型、第二份延遲預算,以及一個必須將發言輪次對齊 Whisper 字詞時間的合併步驟。

• 基礎設施 — GPU、自動擴縮、供批次路徑使用的佇列,還得有人在凌晨兩點那台每天轉錄 40 小時的機器掛掉時待命支援。

這些都不構成阻礙。這些全都是託管式臨床模型會吸收掉的工作,而真正該誠實面對的問題是:團隊的時間花在這些事情上,還是花在臨床產品本身,哪個更值得。對已經運行推論基礎架構的研究團隊或平台團隊而言,答案通常是肯定的——這正是 Whisper 一開始會成為預設選項的原因。對一家五人、差異化優勢在於護理師工作流程的數位健康新創來說,答案通常是否定的。

執照才是真正的優勢,而且這可不是小優勢。

Whisper 的 MIT 授權意味著無需供應商、無需計量、沒有隨通話量成長的按分鐘費用,也不要求病患音訊離開您的網路。對受規範實體而言,最後一點並非可有可無。在自有 VPC 內部自架 Whisper 部署,是您的安全團隊早已知道如何核准的合規方案:PHI 永不跨越供應商邊界、日誌保留期限由您設定,而且無需協商 Business Associate Agreement。

相較之下,ElevenLabs 的文件目前寫著一段會讓合規主管反覆細讀的內容:在 Scribe v3 Live Medical 的 HIPAA 適用資格獲得確認之前,請勿將受保護的健康資訊傳送給該模型;此外,早期存取期間不提供 EU 資料駐留。醫療轉錄頁面的一般聲明——對具有 BAA 與 Zero Retention Mode 的 Enterprise 客戶而言符合 HIPAA——描述的是平台以及正式發布(GA)的醫療產品 Scribe v2 Medical。對於早期存取的即時模型,該警告才是具操作效力的句子。

所以今天開放基準在合規比較中直接勝出,原因與準確度毫無關係,完全在於尚未完成的文件作業。

邊際成本,在三種不同產量下

Whisper 有硬體成本,但沒有計費錶。在你已經擁有的 GPU 上執行,每轉錄一分鐘的邊際成本就趨近於電費;若租用 GPU,成本則是執行個體費率除以吞吐量,而在現代化的服務堆疊上,這不過是每音訊小時幾美分。以每月一千小時的用量來說,單一張租來的 GPU 就能從容涵蓋負載,還留有餘裕。

Scribe v3 Live Medical 沒有運算邊際成本,因為它不是按分鐘銷售——它包含在 ElevenAgents 訂閱中,該訂閱按對話分鐘計費,並涵蓋 LLM、電話通訊和語音。對於你實際可計量的模型,ElevenLabs 的 API 定價基準為 Scribe v3 Live 每小時 0.22 美元、Scribe v2 Medical 每小時 0.20 美元,即時關鍵詞提示則為每小時 0.08 美元。

每月十小時,託管路線顯然更便宜:不必買 GPU、不必維護管線,而且訂閱方案就包含代理程式。每月一萬小時,自架 Whisper 比任何曾公布過的按分鐘計費方案都便宜,也沒有任何供應商能壓過你用自家硬體執行 MIT 權重所產生的邊際成本。交叉點一如既往,落在你的工程師薪資除以省下時數後,低於每分鐘費率的地方;而對小型臨床團隊來說,它出現得比試算表顯示的更晚,因為你打造出來的管線,是你永遠都得維護的管線。

A two-column scoreboard titled 'Scribe v3 Live Medical vs Whisper Large v3 Turbo — the scoreboard', with the rows Licence (platform only vs MIT), Access (ElevenAgents only vs download and self-host), Streaming (native, turn prediction vs no, 30-second windows), Diarization (built in vs no), Vocabulary (10,000 terms included vs none, fine-tune or correct) and Cost (bundled, no ASR rate vs your own GPU), and a footer reading 'Scribe figures vendor-run and unavailable outside ElevenAgents; Whisper figures per OpenAI.'

路由器適合的位置,確切地說

Whisper 把文字交到你手上;但總得有什麼東西去讀它、並據以行動。在臨床工作流程裡,那就是第二個模型——草擬病程紀錄、擷取用藥清單、判斷這通電話是否需要護理師——而這是隨著對話長度、而非音訊長度而擴展的那一環。OrcaRouter 提供215 個模型,全透過單一 OpenAI 相容 API 供應,且零加成,供應商牌價原封不動照傳,並具備自動容錯移轉,因此那個推理模型可以是小而快的模型,負責逐輪回覆;也可以換成較大的模型,負責通話結束後的紀錄——同一把金鑰就能搞定。

清楚說明界線:我們不託管 Whisper Large v3 Turbo,也不託管 Scribe v3 Live Medical 或任何 ElevenLabs 模型。自架 Whisper 用的是你的 GPU;ElevenLabs 的醫療模型則在他們的平台上。我們所路由的是這兩者之上的層級。

A section of the OrcaRouter site headed 'Zero markup. Zero black boxes.', with the line 'You pay each provider their exact list price. We add $0 per token' and further text explaining that cached and repeated prompt tokens bill at the provider's own cache rate and that cached_tokens appears on every receipt.

哪一個,給哪一隊?

如果下列任一情況成立,就選用 Whisper Large v3 Turbo:你需要轉錄內容留在自己的邊界內;你轉錄的是錄製好的音訊,而不是即時通話;你的用量高到按分鐘計費成為主要成本;或者你有工程能力自行建構串流、說話者分離與詞彙層。在錄製的臨床音訊上——也就是就診後審閱的口述筆記——Whisper 加上藥名後校正處理,是真正強大且真正便宜的方案,而它的 MIT 授權省去了一整類採購討論。

如果音訊是即時的、詞彙屬於臨床用語,而且代理本來就確定要採用 ElevenLabs,那就採用 Scribe v3 Live Medical。輪次預測和 10,000 個詞彙的預算,是你原本得自行建置的東西;在 PriMock57 上的 12.8% 結果是廠商自己的數據,但方向與所有臨床 ASR 廠商回報的情況一致,而且平台會吸收基礎架構。然後在 PHI 方面先緩一緩,直到文件頁面上的早期存取警告撤下為止。

而如果你完全不在 ElevenAgents 之內——也就是讀這篇文章的大多數人——真正的選擇是在 Whisper 與像 Scribe v2 Medical 這樣可呼叫的醫療模型之間:每小時 $0.20,且在臨床測試音訊上比 Scribe v2 少 15% 的錯誤。Scribe v3 Live Medical 在紙面上是更好的模型。它只是尚未提供,而一個你無法執行的模型,並不是你能執行之模型的競爭對手。