标题卡写着“Scribe v3 Live Medical 对比 Whisper Large v3 Turbo”,副标题是“一个你无法租用,一个你可以拥有”。下方是一个单一标尺:左侧是一个上锁的挂锁图标,标注为“仅限 ElevenAgents,无模型 ID”;右侧是一个打开的盒子,标注为“809M 参数,MIT 许可证,运行约需 6 GB 显存”。
Guides & Insights

Scribe v3 Live Medical 对比 Whisper Large v3 Turbo:你无法租用的模型 vs 你可以拥有的模型

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

Whisper Large v3 Turbo 是一个拥有 8.09 亿参数、采用 MIT 许可证的模型,你可以下载它,将其量化到约 1.6 GB,并在单块普通 GPU 上以大约 Whisper Large v3 八倍的速度运行。Scribe v3 Live Medical 是 ElevenLabs 的临床微调版本,你无法下载、无法通过 API 调用,而且除非你在 ElevenAgents 内运行智能体,否则根本无法获取。把它们放在同一个句子里很奇怪,直到你注意到它们在真实决策中占据同一个位置:当通用转写器不断把“empagliflozin”弄错时,两者都是你会采用的方案,而大多数团队只能获得其中一个。

这才是真正的比较。不是准确性——两个数字对不上——而是可用性,以及为了弥合一个供应商不会卖给你闭源方案来填补的差距,开放基线会让你在工程上付出多少代价。

为什么这不是一场基准之争的十一字版本

ElevenLabs 为 Scribe v3 Live Medical 公布的数据是:在 PriMock57(57 次模拟初级保健问诊)上的词错误率为 12.8%,相比之下,四款竞品实时医疗与通用模型为 15.5% 至 17.2%。Whisper Large v3 Turbo 公布的数据是:在 LibriSpeech test-clean 上为 2.1%,在 test-other 上为 4.2%——这是朗读英语有声书的语音,该语料库多年来一直是标准的公开基准,而它与一通关于处方的电话之间的差距,几乎已达到音频所能达到的极限。

在 LibriSpeech 条件下,一个 809M 的开源模型大幅胜过临床微调模型。在戴着劣质耳机的真实问诊中,这两个数字都是噪声。这两个数字互不预测,任何把它们并列并宣布赢家的人,都是在把一个批处理模型的净室测量结果,与一个流式模型的厂商自测结果相比较。诚实的表述是:医疗微调模型声称在临床音频上优于其他实时模型,Whisper 声称在干净的朗读语音上优于其他开源模型,而这两种主张互不相干。

Whisper Large v3 Turbo 实际上是什么,以及不是什么

OpenAI 对 Whisper Large v3 的蒸馏版本于 2024 年 10 月在 MIT 许可下发布:包含 32 个编码器层和 4 个解码器层,其中解码器层数从 32 层降至 4 层,速度提升正源于此。它可在 faster-whisper、whisper.cpp、ONNX 和 GGUF 构建版本中运行,量化后体积小到足以在笔记本电脑上运行,覆盖 99 种语言,而且无论你是在单块 GPU 上还是在整机架上运行,都不收取任何许可费用。

它不是什么,而这份清单对临床智能体至关重要:

• 它不支持流式处理。Whisper 的架构围绕固定的 30 秒窗口构建,因此“实时”意味着将音频分块并反复运行,为此付出重叠部分的代价,并接受转写文本会因缓冲量而落后于语音。它没有原生的部分结果流,也没有轮次检测。

• 它不做说话人分离。只有一路连续的词流,不区分谁说了什么。对于患者和临床医生都会提到药物名称的双人问诊场景,你要么额外挂接一个独立的说话人标注模型,要么就只能接受一份没有标注的转录文本。

• 它不会进行格式化。标点和大小写会按音频生成时的原样输出,连不流畅之处也一并保留。不会处理自我纠正,不会调整句子大小写,也没有临床记录结构。

• 它没有针对翻译进行训练,也没有领域偏置机制。没有关键术语表可以把处方集交给它,也没有提示词告诉它这是一通心脏病学领域的通话。你要么做微调,要么做后处理,要么就接受这些错误。

相比之下,Scribe v3 Live Medical 几乎完全由那四项缺失的能力构建而成:它支持流式传输,具备会等到会员 ID 说完再判断的轮次预测功能,免费支持最多 10,000 个自定义临床术语,并且是对一个基于对话而非有声书训练的模型进行微调得到的。ElevenLabs 坦诚说明了这一能力的边界所在——没有周围上下文的孤立药品名称是每个模型最难处理的情况,而建议是使用关键术语来向预期内容倾斜。

The openai/whisper repository page on GitHub, showing 113k stars and 13.7k forks, the README heading 'Robust Speech Recognition via Large-Scale Weak Supervision' and an MIT license badge in the sidebar.

自行弥合差距的工程成本

这时候,比较就变成了一张电子表格,而不是排行榜。一个希望让 Whisper Large v3 Turbo 表现得像临床实时转录器的团队,必须构建四样东西:

• 流式封装层——分块音频、重叠窗口、部分假设合并,以及一套你自己设计的端点判定规则,因为 Whisper 本身不提供任何这类机制。要做好在接缝处理上投入大量时间的准备;大多数自研语音代理最严重的延迟问题就出在这里。

• 词汇机制——Whisper 完全没有。你要么用自己的临床音频做微调,而这需要标注数据,你很可能没有;要么针对药物名称列表做后处理纠正,这是一个模糊匹配问题,会带来它自己那一类“自信的错误”。

• 一次说话人分离(diarization)处理——第二个模型、第二份延迟预算,以及一个必须将说话人轮次与 Whisper 的词级时间戳对齐的合并步骤。

• 基础设施——GPU、自动扩缩容、为批处理路径准备的队列,以及当每天转写 40 小时的机器在凌晨两点宕机时能有人随叫随到。

这些都不构成阻碍。所有这些工作,原本都会被一个托管式临床模型承担掉;而真正需要诚实面对的问题是,你团队的时间花在这些工作上更好,还是花在临床产品本身上更好。对于一个已经运行推理基础设施的研究团队或平台团队来说,答案往往是肯定的——这正是 Whisper 最初会成为默认选择的原因。对于一个以护士工作流为差异化优势的五人数字健康初创公司来说,答案通常是否定的。

许可证才是真正的优势,而且这绝非小优势。

Whisper 采用 MIT 许可证,这意味着无需依赖供应商、无需计量、没有随通话量增长的按分钟费用,也不要求患者音频离开你的网络。对受监管实体来说,最后这一点绝非锦上添花。在自有 VPC 内部自托管部署 Whisper,是一套你的安全团队早已知道如何批准的合规方案:PHI 绝不会跨越供应商边界,日志保留策略由你设定,也无需协商业务伙伴协议(Business Associate Agreement)。

相比之下,ElevenLabs 的文档目前写着一句会让合规官反复读两遍的话:在确认 Scribe v3 Live Medical 模型符合 HIPAA 资格之前,请勿向该模型发送受保护健康信息;并且在早期访问期间,不提供欧盟数据驻留。医疗转录页面的通用声明——面向已签署 BAA 并启用零保留模式的企业客户提供 HIPAA 合规资格——描述的是平台以及正式发布的医疗产品 Scribe v2 Medical。对于早期访问的实时模型,那句警告才是起实际约束作用的表述。

因此,如今开放基线在合规性比较中直接胜出,原因与准确性毫无关系,完全在于尚未完成的文书工作。

三种不同产量下的边际成本

Whisper 有硬件成本,却没有计量表。在你自己已有的 GPU 上运行,转写一分钟的边际成本趋近于电费;租一块 GPU,成本就是实例费率除以吞吐量,而在现代服务栈上,这不过是每音频小时几美分的水平。按每月一千小时计算,单块租用的 GPU 就能覆盖这一负载且仍有富余。

Scribe v3 Live Medical 没有计算边际成本,因为它不是按分钟出售的——它包含在 ElevenAgents 订阅中,该订阅按对话分钟计费,并涵盖 LLM、电话通信和语音。对于你实际可以计量的模型,ElevenLabs 的 API 锚定价格为:Scribe v3 Live 每小时 0.22 美元,Scribe v2 Medical 每小时 0.20 美元,实时关键词提示为每小时 0.08 美元。

每月十小时,托管方案显然更便宜:不用买 GPU,不用维护流水线,而且订阅里还包含智能体。每月一万小时,自托管 Whisper 比任何已公布的按分钟计价方案都便宜,也没有任何供应商能压低你自己硬件运行 MIT 权重时的边际成本。临界点一如既往地落在:你的工程薪资除以节省的小时数,所得结果低于每分钟费率——而对小型临床团队来说,这个点会比电子表格所示来得更晚,因为你搭建的流水线,是一条你要永远维护的流水线。

A two-column scoreboard titled 'Scribe v3 Live Medical vs Whisper Large v3 Turbo — the scoreboard', with the rows Licence (platform only vs MIT), Access (ElevenAgents only vs download and self-host), Streaming (native, turn prediction vs no, 30-second windows), Diarization (built in vs no), Vocabulary (10,000 terms included vs none, fine-tune or correct) and Cost (bundled, no ASR rate vs your own GPU), and a footer reading 'Scribe figures vendor-run and unavailable outside ElevenAgents; Whisper figures per OpenAI.'

路由器适合的确切位置

Whisper 把文本交给你;但还需要有某个环节来读取它并采取行动。在临床工作流中,那就是第二个模型——负责起草记录、提取药物清单、判断这通电话是否需要护士介入——而且它是随对话长度而非音频长度扩展的那一环。OrcaRouter 提供215 个模型,均可通过一个兼容 OpenAI 的 API 访问,且 0% 加价,供应商标价原样传递,并具备自动故障转移,因此该推理模型可以在同一密钥下,用一个小而快的模型处理逐轮回复,用更大的模型生成通话结束记录。

请明确边界:我们不托管 Whisper Large v3 Turbo,也不托管 Scribe v3 Live Medical 或任何 ElevenLabs 模型。自托管 Whisper 用的是你的 GPU;ElevenLabs 的医疗模型是他们的平台。我们路由的是两者之上的那一层。

A section of the OrcaRouter site headed 'Zero markup. Zero black boxes.', with the line 'You pay each provider their exact list price. We add $0 per token' and further text explaining that cached and repeated prompt tokens bill at the provider's own cache rate and that cached_tokens appears on every receipt.

哪一个,给哪支队伍

如果以下任一情况成立,就选择 Whisper Large v3 Turbo:你需要转录内容留在自己的边界内,你转写的是录制的音频而不是实时通话,你的用量高到按分钟计费成为主要成本,或者你有工程能力自行构建流式处理、说话人分离和词汇层。对于录制的临床音频——就诊后审阅的口述记录——Whisper 加上药名后校正环节是一个确实强大且确实便宜的答案,而其 MIT 许可证则省去了一整类采购讨论。

如果音频是实时的、词汇是临床领域的,并且代理本来就要用 ElevenLabs,那就选 Scribe v3 Live Medical。轮次预测和 10,000 个术语的预算本来都是你需要自行构建的东西;PriMock57 上 12.8% 的结果来自厂商自身,但方向与每家临床 ASR 厂商报告的情况一致,而且平台会吸收基础设施。然后先暂缓 PHI,直到文档页面上的早期访问警告撤下。

如果你完全不在 ElevenAgents 的范围内——本文的大多数读者都是如此——真正的选择是在 Whisper 和像 Scribe v2 Medical 这样可调用的医疗模型之间:后者每小时 0.20 美元,在临床测试音频上的错误率比 Scribe v2 低 15%。Scribe v3 Live Medical 在纸面上是更好的模型。只是它并未提供,而一个你无法运行的模型,无法与一个你能运行的模型竞争。